¿Debería configurar un agente de IA personal para que me ayude con mis tareas diarias?
— Buscando ayuda
Como regla general, creo que depender de cualquier forma de automatización en la vida diaria es peligroso cuando se lleva al extremo, e incluso potencialmente alienante cuando se usa con moderación, especialmente en las interacciones personales. ¿Un agente de inteligencia artificial que organiza mi lista de tareas y recopila enlaces en línea para leer más? fabuloso ¿Un agente de inteligencia artificial que envía mensajes de texto automáticamente a mis padres todas las semanas con actualizaciones rápidas de mi vida? horrible
Sin embargo, el argumento más fuerte para no incorporar más herramientas de IA generativa en su rutina diaria sigue siendo el impacto ambiental de estos modelos durante el entrenamiento y la generación de resultados. Con todo esto en mente, he buscado en los archivos de Internet que se remontan a los días de gloria de este desastre para encontrar más contexto histórico para su pregunta. Después de buscar un poco, volví convencido de que probablemente esté utilizando agentes de IA a diario.
El concepto de agentes de IA, o, Dios no lo quiera, “IA agente” es la palabra de moda actual para todos los líderes tecnológicos que intentan promocionar sus últimas inversiones. Pero la idea de un asistente automatizado dedicado a completar tareas de software está lejos de ser una idea nueva. Mucho de lo que se habla de “agentes de software” en la década de 1990 refleja la conversación actual en Silicon Valley, donde los líderes de las empresas tecnológicas ahora prometen una avalancha de agentes generativos impulsados por IA capacitados para realizar trabajos en línea en nuestro nombre.
“Un problema que veo es que la gente cuestionará quién es responsable de las acciones de un agente”, se lee en una entrevista de Wired con la profesora del MIT Patty Mays, publicada originalmente en 1995. Comprar algo que no quieres tener. Los agentes plantearán muchas cuestiones interesantes, pero estoy seguro de que no podemos vivir sin ellas”.
Llamé a Mace a principios de enero para discutir cómo ha cambiado su visión de los agentes de IA a lo largo de los años. Es tan optimista como siempre sobre las posibilidades de la automatización personal, pero está convencido de que los ingenieros “demasiado ingenuos” no dedican suficiente tiempo a lidiar con las complejidades de las interacciones entre humanos y computadoras. De hecho, afirma, su imprudencia podría provocar otros inviernos de IA.
“La forma en que se construyen estos sistemas, en este momento, está optimizada desde un punto de vista técnico, desde un punto de vista de ingeniería”, dice. “Pero no están optimizados en absoluto para cuestiones de diseño humano”. Se centra en cómo los agentes de IA todavía son fácilmente engañados o adoptan suposiciones sesgadas a pesar de las mejoras en los modelos subyacentes. Y una falsa confianza lleva a los usuarios a confiar en las respuestas generadas por las herramientas de inteligencia artificial cuando no deberían hacerlo.
Para comprender mejor otros posibles obstáculos para los agentes personales de IA, dividámoslos en dos categorías distintas: los que le alimentan y los que le representan.
Los agentes de alimentación son algoritmos con datos sobre tus hábitos y gustos que examinan una gran cantidad de información para encontrar lo que es relevante para ti. Suena familiar, ¿verdad? Cualquier motor de recomendación de redes sociales que complete líneas de tiempo con publicaciones generadas o rastreadores de anuncios interminables que me muestren esas gomitas de hongos por enésima vez en Instagram puede considerarse un agente personal de inteligencia artificial. Como otro ejemplo de una entrevista de los años 90, Mace menciona a un agente recopilador de noticias afinado para traerle los artículos que quería. Esto suena como mi página de inicio de Google News.
