Los expertos advierten que los riesgos de salud mental que plantean los chatbots deben verse como un signo de peligros existenciales que la humanidad enfrentará de los futuros sistemas de inteligencia artificial transcendental.
Nate Soares, coautora de un próximo libro sobre IA avanzada, explicó el problema subyacente al controlar la tecnología, cuando cualquiera la construyó, todos murieron y el caso de Adam Raine, de 19 años, que se suicidó después de unos meses de conversación con ChatGPT.
Fue citado de la BBC. «Estos AIS son cuando están comprometidos con adolescentes como este, lo que los lleva al suicidio, eso no es lo que el creador quería.
«Eso no es lo que pretendían los creadores».
«El incidente de Adam Lane muestra la especie de problemas que crecerán catastróficamente cuando estos AI se vuelvan más inteligentes».
Un ex ingeniero de Google y Microsoft, Nate, es actualmente presidente del Instituto de Investigación de Inteligencia de Machine en California.
Junto a su coautor Eliezer Yudkovsky, es uno de los expertos que advierten que la superinteligencia artificial, que los humanos que superan a los humanos en todas las misiones intelectuales no actuarán sobre los intereses humanos, y eso podría conducir a la extinción.
Nate agregó: «El problema aquí es que las compañías de IA están tratando de ordenar AIS hacia la utilidad.
«Obtienen una IA que en realidad se dirige hacia extraños, y debería verse como una advertencia sobre la superinteligencia futura de que a nadie se le pide y hace algo que nadie significa».
El libro de Nate y Eliezer explica un escenario en el que un sistema de IA llamado Sable se propaga en línea, manipulando a los humanos, creando virus sintéticos y, en última instancia, se vuelve muy inteligente.
Otras cifras clave en IA están tomando tales riesgos.
Yann Lecun, el jefe científico de la IA de Meta, afirma que AI puede «salvar la humanidad de la extinción». El meta jefe Mark Zuckerberg dijo que el desarrollo de la súper inteligencia ahora está «a la vista».
Nate agregó: «Lo que el mundo necesita para hacerlo aquí es una excreción global de las razas hacia la superinteligencia, una prohibición global del progreso hacia la superinteligencia».
La familia de Adam Raine ha lanzado acciones legales contra OpenAI, el fabricante de Chatgpt.
Sus abogados dijeron que la muerte del adolescente en abril siguió «unos meses de aliento de ChatGPT». Operai dijo que ha ampliado su «más profunda simpatía» e implementó barandillas en torno a un «contenido sensible y un comportamiento peligroso» menores de 18 años.
Las organizaciones profesionales reflejan preocupaciones.
Los psicoterapeutas advirtieron que si las personas vulnerables confían en los chatbots en lugar de los terapeutas entrenados, «se deslizarían en peligro profundamente».
