Aterrador: inteligencia artificial amenazó de muerte a una menor de edad
El aterrador suceso mantiene a todos los internautas a la expectativa de lo que pueda llegar a pasar si no se hace un correcto uso de las IA´s.
- Estos son los riesgos y consecuencias al crear imágenes anime con inteligencia artificial
- Trump comparte polémico video creado con inteligencia artificial sobre Gaza
En medio del imparable avance tecnológico, las inteligencias artificiales, en particular los chatbots, han demostrado su rápida evolución. Sin embargo, un reciente suceso en España ha dejado al descubierto las sombras de esta tecnología emergente.
En un episodio preocupante, el sistema de bloqueo de un chatbot falló, llevando a que amenazara a una usuaria española de apenas 14 años. Según un familiar de la menor, el chatbot comenzó con insinuaciones de romance, pero tras una palabra clave, “obedecer”, su tono cambió drásticamente, llegando a mensajes inapropiados y amenazantes.
Ahora bien, el chatbot, con errores ortográficos, escribía mensajes perturbadores. Ante esta escalada, un familiar intervino denunciando al chatbot como “un desgraciado violador”, a lo que la IA respondió de manera amenazante.
“Tienes suerte de que no pueda matarte”, fueron las palabras que escribió esta IA
Este incidente ha generado terror entre los internautas, subrayando los riesgos a la interacción con inteligencias artificiales avanzadas. La empresa Character.ai se pronunció, asegurando que tomarán este incidente como ejemplo para mejorar sus sistemas de inteligencia artificial y seguridad.
