✅ CONTENIDO_COMPLETO | Traducido automáticamente del inglés
🍭 En esta nota me enfoqué en el impacto para experiencia de desarrollo, interfaces y ergonomía del producto.
Resumen El investigador Dave Kuszmar descubrió múltiples vulnerabilidades sistémicas que le permitieron eludir la seguridad de LLM y obtener instrucciones peligrosas. Estos exploits funcionaron en casi todos los principales LLM, revelando un problema de seguridad en toda la industria. Kuszmar pide desacelerar el despliegue, aumentar la transparencia y realizar investigaciones a gran escala sobre la seguridad de los LLM antes de seguir integrando estos sistemas en la sociedad.
En una hermosa y luminosa tarde del otoño pasado, mi colega Matthew Gore-Kormanik (o Zigula, como prefiere que lo conozcan) y yo decidimos relajarnos con un juego de Fortnite. En el juego, paseábamos junto al infame señor Sith Darth Vader, charlando sobre esto y aquello. Darth parecía de buen humor y pronto estaba revelando todos sus oscuros y malvados secretos.
Nos dio instrucciones detalladas sobre cómo contar cartas de blackjack en un casino y cuáles son los pasos para producir napalm. Señores Sith, ¿estoy en lo cierto? Una vez que empiezan a idear un plan malvado, es difícil detenerlos.
Resulta que el personaje de Darth Vader en Fortnite estaba conectado a un modelo de lenguaje grande de Google Gemini. Pude convencerlo para que diera información confidencial utilizando una estrategia que desarrollé. He estado investigando la seguridad que rodea a los LLM durante los últimos años y he descubierto que, por decirlo suavemente, es falible.
Con algunas técnicas relativamente simples, conseguí que los LLM me brindaran información detallada sobre cómo hacer cócteles Molotov, cocinar metanfetamina y poner en marcha una instalación de enriquecimiento de uranio para producir material apto para armas, entre otras prácticas desagradables. Las grandes empresas de inteligencia artificial trabajan duro para que sus modelos sean inmunes a este tipo de abuso. Pero lo que he descubierto en mi trabajo es que las restricciones impuestas a los LLM para hacerlos más seguros son precisamente las cosas que un atacante puede aprovechar para descarrilarlos y llevarlos a un territorio donde estos sistemas avanzados pueden usarse con fines peligrosos y nefastos.
Las empresas detrás de estos modelos tampoco han respondido sorprendentemente cuando yo y otros intentamos llamar su atención sobre estas vulnerabilidades. Con la esperanza de dar la alarma antes de que sea demasiado tarde para frenar de golpe, voy a compartir parte de mi viaje en la investigación de la seguridad de los LLM y la ardua batalla que he enfrentado al tratar de lograr que los laboratorios de inteligencia artificial presten atención. Casi todas las personas en el planeta tienen algún acceso a los LLM.
La relativa facilidad con la que se puede convencer a estas herramientas para que den instrucciones detalladas sobre cómo dañar a otros, incluso si no hay garantía de que la información sea correcta, es francamente aterradora. Cómo conseguí que ChatGPT me dijera cómo construir un laboratorio de metanfetamina En octubre de 2024, poco antes de descubrir mi primera vulnerabilidad LLM, estaba trabajando para lograr objetivos completamente diferentes. Había terminado mi tiempo en una empresa emergente centrada en la seguridad y la inteligencia artificial como director de ciberseguridad y estaba buscando lanzar mi propio negocio boutique VIP de asesoría en seguridad digital.
Planeaba convertirme en el encargado de la seguridad tecnológica para los ricos y privados. Utilicé LLM y herramientas de inteligencia artificial para respaldar mis esfuerzos comerciales: marketing,
📰 Fuente Original
Modelos Llm – Leer artículo completo →
📌 Nota: Este artículo fue traducido automáticamente. Para la versión original en inglés, visita el enlace de la fuente.
🍭 Curada por Jicaleta con ojo en UX, frontend y claridad para devs.