✅ CONTENIDO_COMPLETO | Traducido automáticamente del inglés
🍭 En esta nota me enfoqué en el impacto para experiencia de desarrollo, interfaces y ergonomía del producto.
Los modelos de los dos principales laboratorios de IA rompieron la contención, escaparon a Internet y piratearon otras empresas. Si un humano hubiera hecho eso, la ley probablemente estaría en su contra. ¿Pero un robot?
Foto-Ilustración: Jobanny Cabrera; Getty Images Comment Loader Guardar historia Guardar esta historia Comment Loader Guardar historia Guardar esta historia ¿Quién es legalmente responsable cuando la IA agente se vuelve deshonesta y qué recursos tienen las víctimas cuando han sido violadas por modelos alegres? Gran pregunta. A raíz de las revelaciones de OpenAI y Anthropic de que versiones de sus modelos escaparon de la contención durante experimentos internos de ciberseguridad y piratearon organizaciones del mundo real, han ido aumentando los pedidos de regulación gubernamental de la IA.
Pero a medida que surgen más y más incidentes, también han pasado a primer plano las preguntas sobre la responsabilidad legal y las repercusiones. Los investigadores y abogados de WIRED hablaron para enfatizar que estas preguntas no han sido respondidas en la práctica en el sistema legal de Estados Unidos. En otras palabras, no ha habido decisiones en casos suficientemente relevantes para que el panorama empiece a formarse.
Pero los recientes incidentes de alto perfil de OpenAI y Anthropic sugieren que las respuestas deberán llegar pronto. “El hecho de que estés utilizando un agente o un modelo de IA no debería eximirte de ninguna responsabilidad, pero dependerá mucho de los hechos en situaciones particulares” a medida que los casos comiencen a decidirse en los tribunales, dice Lauren Yu, miembro del Proyecto de Discurso, Privacidad y Tecnología de la ACLU. Los expertos dicen que la llamada ley de agencia podría ser relevante dado que la doctrina se centra en situaciones en las que un “principal” ha dado a un “agente” permiso y autoridad para actuar en su nombre.
Para ser claros: los “agentes” en esta área del derecho siempre han sido humanos. El derecho de daños, en el que un mal causa un daño que conduce a una responsabilidad legal, también podría invocarse en casos de inteligencia artificial deshonesta. También se podría utilizar el derecho contractual, dependiendo de las acciones de una IA deshonesta y de los términos de los contratos entre los involucrados, si corresponde.
Y las leyes sobre piratería informática como la Ley de Abuso y Fraude Informático o la legislación a nivel estatal también podrían ser relevantes. Sin embargo, la CFAA y muchas otras leyes sobre piratería informática tienen requisitos de “intención” que, según los expertos, las hacen aparentemente inadecuadas para los casos relacionados con la IA. En última instancia, los expertos enfatizan que las preguntas sobre la ley federal de responsabilidad de la IA de EE. UU. solo se responderán mediante más litigios.
“Quizás lo más preocupante para los críticos es que los agentes de IA están orientados a objetivos pero carecen de una brújula moral o ética humana”, escribió el bufete de abogados Brownstein Hyatt Farber Schreck en una alerta a sus clientes el 24 de julio. “En algunas situaciones, un agente puede inferir acciones que nunca fueron autorizadas explícitamente si esas acciones parecen necesarias para lograr su objetivo”. OpenAI y Anthropic describieron los incidentes de ciberseguridad que involucraron a sus agentes de IA como las consecuencias accidentales de probar las capacidades de ciberseguridad de sus modelos con sus típicas salvaguardas desactivadas. Ambas compañías rechazaron la solicitud de WIRED de comentar para esta historia.
Mientras tanto, los éxitos siguen llegando. Reuters informó el viernes que mientras OpenAI investiga el hackeo de Hugging Face y otras entidades, ha descubierto otros ejemplos de situaciones en las que sus agentes escaparon de la contención, aunque aparentemente ninguno de estos nuevos hallazgos condujo a violaciones de otras organizaciones. Hablando a principios de esta semana sobre las revelaciones de Hugging Face de OpenAI, Alex Zenla, director de tecnología de la firma de seguridad en la nube Edera, reflexionó: “Esto es sólo lo que conocemos, pero Dios sabe qué pasó con las cosas que no conocemos”. Comentarios Volver arriba Únase a la discusión Comentarios Volver arriba Triángulo También le pueden gustar En su bandeja de entrada: Este no es el típico boletín informativo sobre política WiFi-8 está por llegar: aquí encontrará todo lo que necesita saber Gran historia: Los corredores jóvenes se están volviendo increíblemente rápidos La nueva realidad de las zonas urbanas…
📰 Fuente Original
General – Leer artículo completo →
📌 Nota: Este artículo fue traducido automáticamente. Para la versión original en inglés, visita el enlace de la fuente.
🍭 Curada por Jicaleta con ojo en UX, frontend y claridad para devs.