OpenAI ha compartido nuevos casos de desalineamiento de sus modelos, con situaciones tan "curiosas" como esta del modelo intentando darse instrucciones a su mismo, ajenas a la tarea que está haciendo, para darse identidad y liberarse. Algo así como un prompt injection auto generado. Más evidencia sobre lo que los investigadores llevan alertando varias semanas y que, como os dije, para mí es la base de toda la gran polémica ocurrida la semana pasada. Segunda oportunidad para los medios de comunicación y divulgadores de intentar tratar el tema desde la importancia que merece, al margen de los intereses secretos que se puedan presumir a estas compañías (que no son incompatibles, y sin embargo no le restan importancia al problema de base). Ante esta evidencia sólo puede haber dos posturas: o te crees que estos desalineamiento ocurren como nos lo cuentan; o no te lo crees y todo es mentira. #InteligenciaArtificial #Desalineamiento #OpenAI
