✅ CONTENIDO_COMPLETO | Traducido automáticamente del inglés
🍭 En esta nota me enfoqué en el impacto para experiencia de desarrollo, interfaces y ergonomía del producto.
La semana pasada, las agencias de seguridad nacional de los Cinco Ojos (el club de los países ricos de habla inglesa) publicaron conjuntamente una declaración advirtiendo sobre los crecientes riesgos cibernéticos de los modelos de IA: en particular, su capacidad para piratear sistemas y redes de forma autónoma. La declaración fue más mesurada que algunos de los titulares apasionados al respecto, y el consejo que dieron es prácticamente el consejo estándar que todos dan, aunque con una urgencia recién descubierta. Los riesgos de Internet no son nada nuevo, y los ciberataques (tanto grandes como pequeños) han sido un problema importante desde mucho antes de la actual cosecha de modelos generativos de IA.
Lo que ha ido cambiando a lo largo de las décadas, y lo que la IA está cambiando aún más rápido, es la brecha entre habilidad y habilidad. Durante la mayor parte de la historia de la humanidad, los dos términos fueron sinónimos, pero las computadoras los han desacoplado. A medida que se amplía la brecha entre ambos, los humanos dotados de estas herramientas de IA pueden hacer más: más escritura, más investigación, más análisis y también más daño que nunca.
Estos modelos pueden, con poca dirección detallada, piratear redes de forma autónoma, robar datos, implementar ransomware y destruir sistemas. Y en la medida en que haya una solución, implicará aprovechar la IA para la defensa. En 1998, siete personas del grupo de hackers L0pht testificaron ante el Congreso.
Le dijeron a un comité del Senado, en su mayoría despistado, que podrían acabar con Internet en 30 minutos. Eso fue en parte real y en parte bravuconería, pero ilustra un punto importante: piratear sistemas, robar datos y causar daños requería habilidad. Comparemos a los hackers de L0pht con los hackers ridiculizados como “niños del guión”. No entendían de informática ni de seguridad.
En cambio, utilizaron herramientas de hackers escritas por otros. Sus acciones requirieron una habilidad mínima y aún menos conocimiento. Pero una vez que esas herramientas de piratería se generalizaron, la cantidad de atacantes potenciales aumentó.
Ese número ha seguido aumentando, a medida que ha aumentado la calidad y disponibilidad de las herramientas de ataque escritas previamente. Y está creciendo dramáticamente con la IA. Los sistemas de inteligencia artificial actuales (no sólo los modelos de frontera, sino la mayoría de ellos) son capaces de llevar a cabo ataques cibernéticos automáticamente.
A todos les va mejor en manos de atacantes expertos, pero cada vez más son capaces de actuar de forma autónoma con sólo una mínima indicación. Lo que pasa con las personas con capacidad pero sin habilidad es que a menudo son forasteros, no forman parte de ninguna comunidad profesional y no están sujetos a ninguna regla o norma. Este fenómeno es mucho más general que en la ciberseguridad.
Cualquier médico puede decirte cómo envenenar a alguien de forma imposible de rastrear, y muchos investigadores de virus saben cómo crear un arma biológica. Cualquier ingeniero de puentes puede decirte cómo colocar explosivos para volar un puente. La razón por la que los médicos asesinos y los ingenieros terroristas son tan raros es que el largo proceso de adquisición de esas habilidades también inculca un código moral y ético.
Si cada persona al azar tiene acceso a buenos consejos sobre intoxicaciones, eso nos pone a todos en peligro. Los sistemas modernos de IA son, de hecho, un asesor universal para ayudar a las personas a hacer cosas dañinas. Y aunque las actuales megacorporaciones de inteligencia artificial están tratando de construir barreras para evitar que la gente haga preguntas cuyas respuestas permitan a quien pregunta hacer daño, eso no va a funcionar a largo plazo.
Los modelos más pequeños, más baratos y de código abierto, incluidos los modelos que pueden ejecutarse en las computadoras de las personas, y especialmente los grupos de modelos que funcionan en conjunto, son tan buenos como los modelos de vanguardia de compañías como OpenAI y Anthropic. Y siguen mejorando. Estos modelos se transmitirán de persona a persona, como herramientas de script para niños piratas informáticos, y no tendrán tales barreras de seguridad.
Instruir a los modelos de IA para que espíen a las personas e informen de cualquier aviso malicioso a las autoridades fracasa por razones similares. Las megacorporaciones pueden hacer eso, pero los modelos de código abierto ejecutados localmente…
📰 Fuente Original
Agentes Ia – Leer artículo completo →
📌 Nota: Este artículo fue traducido automáticamente. Para la versión original en inglés, visita el enlace de la fuente.
🍭 Curada por Jicaleta con ojo en UX, frontend y claridad para devs.