OpenAI ha eliminado silenciosamente el texto que respalda la IA “políticamente neutral” de uno de sus documentos de políticas publicados recientemente.
en- Borrador original En su “plan económico” para la industria de la IA de EE. UU., OpenAI dijo que los modelos de IA “deberían esforzarse por ser políticamente neutrales por defecto”. Un nuevo borrador, disponible el lunes, elimina esa frase.
Cuando se le contactó para hacer comentarios, un portavoz de OpenAI dijo que la edición era parte de un esfuerzo por “simplificar” el documento, y que otra documentación de OpenAI, incluida la especificación del modelo OpenAI, “indica objetividad”. La especificación del modelo, que OpenAI publicó en mayo, tiene como objetivo arrojar luz sobre el comportamiento de los diversos sistemas de inteligencia artificial de la empresa.
Pero la enmienda también señala el campo minado político en el que se ha convertido el discurso sobre la “IA sesgada”.
Muchos de los aliados del presidente electo Donald Trump, incluidos Elon Musk y el “zar” de las criptomonedas y la inteligencia artificial, David Sachs, han acusado a los chatbots de inteligencia artificial de censurar los puntos de vista conservadores. saxo tiene por separado ChatGPT de OpenAI específicamente como “programado para despertar” y no es veraz sobre temas políticamente delicados.
Musk culpó tanto a los datos con los que se entrenan los modelos de IA como al “resurgimiento” de las empresas en el Área de la Bahía de San Francisco.
“Muchas personas de IA que se entrenan en el área de la Bahía de San Francisco adoptan la filosofía de las personas que los rodean”, Musk dicho en un evento apoyado por el gobierno de Arabia Saudita en octubre pasado. “Así que, en mi opinión, estas IA tienen una filosofía vívida y nihilista”.
En verdad, el sesgo en la IA es un problema técnico intratable. La propia empresa de inteligencia artificial de Musk, xAI, ha luchado por crear un chatbot que no favorezca ciertas opiniones políticas sobre otras.
Artículo de investigadores del Reino Unido publicado En agosto sugirió que ChatGPT tiene un sesgo liberal en temas como la inmigración, el cambio climático y el matrimonio entre personas del mismo sexo. OpenAI tiene afirmar Todos los sesgos de chatGPT “son errores, no características”.
