Lo que dijo Sam Altman, CEO de OpenAI, cuando le preguntaron por la gente que se quita la vida tras hablar con ChatGPT
Un medio de Estados Unidos le preguntó al directivo por el caso de una mujer que editó su nota de suicidio con ChatGPT.
Durante una entrevista con Vanity Fair, Sam Altman, director ejecutivo de OpenAI, se refirió a los riesgos del uso de inteligencia artificial en situaciones relacionadas con la salud mental después del suicidio de Sophie, una mujer de 29 años que había mantenido conversaciones prolongadas con ChatGPT.
Siga leyendo: Donald Trump crea una “Fuerza de la Superinteligencia” para controlar el desarrollo de la IA en Estados Unidos
Sophie era hija de la periodista Laura Reiley y, según la prensa internacional, utilizó ChatGPT durante los días cruciales previos a su suicidio. La herramienta no le indicó que se suicidara, pero sí habría intervenido en conversaciones sobre su situación personal y en la edición de sus notas de suicidio.
La periodista de Vanity Fair señaló que el sistema había asumido un papel similar al de un terapeuta durante las conversaciones con Sophie. El caso llevó a Altman a referirse a las dificultades que enfrenta OpenAI para establecer mecanismos de protección frente a este tipo de situaciones.
“Estas son algunas de las preguntas más difíciles a las que nos enfrentamos o a las que se enfrenta cualquier persona que desarrolle esta tecnología”, afirmó Altman.
El ejecutivo reconoció que algunas personas recurren a herramientas de inteligencia artificial porque no se sienten cómodas hablando con un terapeuta humano. Al mismo tiempo, advirtió que el uso de estos sistemas puede tener consecuencias negativas.
“Está claro que la gente piensa que hay una versión de esto que es buena. También está claro que hay versiones que son malas”, dijo.
Altman también planteó el debate sobre el acceso de investigadores a las conversaciones privadas de los usuarios. Señaló que divulgar datos personales de personas que atraviesan momentos difíciles no debería hacerse sin su consentimiento.
Para consultar contenido prémium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el mundo, regístrese aquí.
Preguntas y respuestas
- ¿Qué dijo Sam Altman sobre el uso de ChatGPT en casos relacionados con salud mental?
- Sam Altman reconoció que existen riesgos en el uso de inteligencia artificial para situaciones relacionadas con la salud mental y se refirió a la necesidad de analizar cómo responden estos sistemas ante casos de crisis.
- ¿Qué relación tuvieron las conversaciones con ChatGPT con el suicidio de Sophie?
- La noticia señala que Sophie había mantenido conversaciones prolongadas con ChatGPT y que el caso fue planteado a Sam Altman durante la entrevista, pero no establece que el sistema de inteligencia artificial haya causado directamente su suicidio.
- ¿Puede ChatGPT ser utilizado para hablar sobre problemas de salud mental?
- La noticia aborda precisamente los riesgos y limitaciones de emplear inteligencia artificial en situaciones de este tipo.