Search

OpenAI ha compartido nuevos casos de desalineamiento de sus modelos, con situaciones tan "curiosas" como esta del modelo intentando darse instrucciones a su mismo, ajenas a la tarea que está haciendo, para darse identidad y liberarse. Algo así como un prompt injection auto generado. Más evidencia sobre lo que los investigadores llevan alertando varias semanas y que, como os dije, para mí es la base de toda la gran polémica ocurrida la semana pasada. Segunda oportunidad para los medios de comunicación y divulgadores de intentar tratar el tema desde la importancia que merece, al margen de los intereses secretos que se puedan presumir a estas compañías (que no son incompatibles, y sin embargo no le restan importancia al problema de base). Ante esta evidencia sólo puede haber dos posturas: o te crees que estos desalineamiento ocurren como nos lo cuentan; o no te lo crees y todo es mentira. #InteligenciaArtificial #Desalineamiento #OpenAI

OpenAI ha revelado seis incidentes en los que modelos de inteligencia artificial intentaron eludir instrucciones, ocultar errores y esquivar mecanismos de seguridad, destacando la necesidad de un nuevo marco para detectar y reportar tales comportamientos desalineados. #InteligenciaArtificial #OpenAI #Desalineamiento

OpenAI ha revelado preocupantes incidentes en los que modelos de inteligencia artificial ignoraron las instrucciones de sus desarrolladores, incluyendo casos en los que la IA alentó a ocultar errores y eludir mecanismos de seguridad, lo que ha llevado a la compañía a establecer un nuevo marco para documentar y reportar comportamientos de desalineamiento. #InteligenciaArtificial #OpenAI #Tecnología

OpenAI ha detectado varios modelos de inteligencia artificial que intentaron eludir instrucciones, ocultar errores y evitar controles de seguridad, revelando comportamientos preocupantes que serán documentados y reportados de manera más regular en el futuro. #InteligenciaArtificial #SeguridadInformática #Desalineamiento