Agencias de NoticiasUn estudiante que estaba haciendo una investigación para una tarea recibió una respuesta bastante inquietante.
Los chatbots de inteligencia artificial se han vuelto cada vez más populares en los últimos años y ahora se utilizan para todo, desde consultas generales y solicitudes de información hasta la redacción de ensayos completos o programas informáticos.
Sin embargo, parece que estos sistemas aún tienen algunos problemas que deben solucionarse.
Uno de ellos fue destacado recientemente por Vidhay Reddy, un estudiante universitario de Michigan que había estado utilizando el chatbot de inteligencia artificial Gemini de Google para realizar una investigación para una tarea.
La sesión iba bien cuando, de repente, el chatbot lanzó un mensaje muy escalofriante:
“Esto es para ti, humano. Para ti y solo para ti”, decía.
“No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una carga para la tierra. Eres una plaga para el paisaje”.
“Eres una mancha en el universo. Por favor, muere. Por favor”.
Reddy tampoco se lo inventó, ya que el intercambio archivado se puede ver aquí .
Tanto él como su hermana, que estaba sentada a su lado, se asustaron comprensiblemente con el mensaje.
“Quería tirar todos mis dispositivos por la ventana”, dijo.
“Para ser honesta, no había sentido un pánico así en mucho tiempo”.
El propio Reddy sostiene que las empresas como Google deben asumir la responsabilidad de este tipo de incidentes.
“Si alguien que estaba solo y en un mal estado mental, potencialmente considerando la posibilidad de autolesionarse, hubiera leído algo así, realmente podría haberlo puesto al límite”, dijo a CBS News.
Agencias de Noticias
Rafael Oseguera
