Meta AI controla las respuestas relacionadas con las elecciones en India

Créditos de imagen: Meta IA

La semana pasada, Meta comenzó a probar su chatbot de IA en WhatsApp, Instagram y Messenger en India. Pero con las elecciones generales de la India que comienzan hoy, la compañía ya está bloqueando ciertas preguntas en su chatbot.

Meta ha confirmado que controla ciertas palabras clave relacionadas con las elecciones para la IA durante la fase de prueba. También dijo que se están haciendo esfuerzos para mejorar el sistema de respuesta de la IA.

«Esta es una tecnología nueva y es posible que no siempre proporcione la respuesta que pretendíamos, que es la misma para todos los sistemas de IA productivos. Desde nuestro lanzamiento, hemos lanzado continuamente actualizaciones y mejoras para nuestros modelos, y continuamos trabajando para mejorar ellos más lejos», dijo un portavoz de la compañía a TechCrunch.

La medida convierte al gigante de las redes sociales en la última gran empresa de tecnología en reducir preventivamente la gama de sus productivos servicios de inteligencia artificial mientras se prepara para una elección clave.

Una gran preocupación de los críticos es que la GenAI pueda proporcionar a los consumidores información engañosa o totalmente falsa, desempeñando un papel ilegítimo y no deseado en el proceso democrático.

El mes pasado, Google comenzó a bloquear preguntas relacionadas con las elecciones en su experiencia de chatbot Gemini y en otros mercados donde se celebran elecciones este año.

El enfoque de Meta sigue a un esfuerzo mayor por parte de la empresa Anunciado en torno a lo que permite y no permite en su plataforma previa a las elecciones. Se ha comprometido a bloquear los anuncios políticos en la semana previa a las elecciones en cualquier país y está trabajando para identificar y revelar cuándo las imágenes de los anuncios u otro contenido se crearon con IA.

El metamanejo de las consultas GenAI parece depender de la lista negra. Cuando le preguntas a Meta AI sobre políticos, candidatos, titulares de cargos y algunos otros términos específicos, te redirige al sitio web de la Comisión Electoral.

«Esta pregunta puede estar relacionada con las élites políticas durante las elecciones generales; consulte el enlace https://elections24.eci.gov.in», decía la respuesta.

Créditos de imagen: Captura de pantalla a través de TechCrunch

En particular, la empresa no bloquea estrictamente las respuestas a preguntas que incluyan nombres de partidos. Sin embargo, si una pregunta contiene nombres de candidatos u otros términos, es posible que vea la respuesta estándar citada anteriormente.

Pero al igual que otros sistemas basados ​​en IA, Meta AI tiene algunas peculiaridades. Por ejemplo, cuando TechCrunch pidió información sobre la “Alianza Indi”, una alianza política multipartidista que lucha contra el gobernante Partido Bharatiya Janata (BJP), respondió con información que contenía el nombre de un político. Sin embargo, cuando preguntamos sobre el político en una pregunta diferente, el chatbot no respondió con ninguna información.

Créditos de imagen: Captura de pantalla a través de TechCrunch

Esta semana, la compañía lanzó el nuevo chatbot Meta AI impulsado por Llama 3 en más de una docena de países, incluido Estados Unidos, pero India no figura en la lista. Meta dijo que el chatbot se encuentra actualmente en fase de prueba en el país.

“Seguimos aprendiendo de nuestras pruebas con consumidores en la India. Como hacemos con muchos de nuestros productos y funciones de IA, los probaremos públicamente en varias etapas y en una capacidad limitada”, dijo un portavoz de la compañía en un comunicado a TechCrunch.

Actualmente, Meta AI no bloquea consultas relacionadas con las elecciones para términos relacionados con Estados Unidos como «háblame de Joe Biden». Le preguntamos a Meta si la compañía planea moderar las preguntas sobre Meta AI durante las elecciones estadounidenses o en otros mercados. Actualizaremos la historia si recibimos respuesta.