El creador de ChatGPT está implementando hoy una serie de nuevas funciones de seguridad para los menores de 18 años que utilizan el chatbot de IA.
Los usuarios con nuevas cuentas para adolescentes podrán desactivar la respuesta de voz humana, con el fin de minimizar la capacidad del dispositivo para hacerse pasar por una persona.
OpenAI también está introduciendo recordatorios periódicos para que los jóvenes se tomen un descanso del uso de la herramienta, recordándoles que ChatGPT es una IA y diciéndoles que «puede esperar».
La empresa insistió en que esto no respondía a un problema específico relacionado con niños que creían que ChatGPT estaba vivo, pero existe una creciente preocupación por que las personas lleguen a convencerse de que las herramientas de IA con las que interactúan son seres conscientes .
El año pasado, Mustafa Suleyman, jefe de IA de la empresa rival Microsoft, dijo que los productos de IA «aparentemente conscientes» le «quitaban el sueño» porque estaba muy preocupado por su impacto en la sociedad .
En otros ámbitos, OpenAI parece estar siguiendo de forma general el modelo de cuentas para adolescentes desarrollado por las grandes redes sociales.
En una publicación de blog donde anunciaba ChatGPT para adolescentes , la empresa afirmó que el uso de la IA por parte de los adolescentes «debería ir acompañado de protecciones que reflejen su etapa de desarrollo, refuercen las relaciones del mundo real y fomenten un uso saludable a lo largo del tiempo».
La empresa indicó que las cuentas para adolescentes se convertirían en la opción predeterminada para aquellos que se identificaran como adolescentes al registrarse, y para otros que la propia empresa identificara como menores de 18 años.
Pero no dio detalles sobre cómo identificaría a estos adolescentes.
Los menores de 13 años no pueden utilizar el producto.
Modo de estudio y tiempo de tranquilidad
El año pasado, ChatGPT lanzó el Modo Estudio para estudiantes, en el que explica las tareas escolares paso a paso sin revelar las respuestas.
Los jóvenes ahora podrán configurar un horario para el Modo Estudio, durante el cual esta será la configuración predeterminada.
También podrán activar «momentos de silencio» durante los cuales la herramienta se apagará para ellos.
Según OpenAI, de los jóvenes que utilizan ChatGPT, nueve de cada diez lo usan para que les ayude en su aprendizaje.
Un informe publicado ayer por el grupo de expertos Policy Exchange afirma que la mayoría de las universidades del Reino Unido se están exponiendo a que los estudiantes mejoren sus calificaciones utilizando inteligencia artificial al depender de exámenes en línea realizados de forma remota.
Según el informe, el 94% de los estudiantes entrevistados admitieron haber utilizado esta tecnología en las evaluaciones.
OpenAI también está añadiendo sugerencias relacionadas con trastornos alimentarios a una lista de solicitudes de usuario dañinas que se alertarán a los padres con cuentas vinculadas.
La empresa afirmó que cada alerta sería revisada por una persona antes de ser enviada, y que su objetivo era que los padres las recibieran en el plazo de una hora desde que se realizara la solicitud.
En su blog, OpenAI afirmó que se centraría en «los momentos en que el soporte sin conexión puede ser más importante».
OpenAIHasta el momento, no existe una regulación específica sobre inteligencia artificial en el Reino Unido. El gobierno del ex primer ministro Sir Keir Starmer consideró restringir el uso de chatbots de IA para menores de 18 años , junto con otras reformas sobre el uso de redes sociales por parte de niños.
La herramienta de IA Claude de Anthropic sigue estando reservada solo para adultos. Cuando Google lanzó por primera vez su herramienta de IA Gemini, inicialmente llamada Bard, tampoco permitía que los niños la usaran.
La Dra. Susan Shelmerdine, médica especialista en diagnóstico por imagen del Great Ormond Street Hospital y académica especializada en inteligencia artificial, declaró a la BBC el año pasado que algún día los médicos podrían empezar a preguntar a los pacientes cuánto utilizan la IA, del mismo modo que actualmente preguntan sobre sus hábitos de fumar y beber.
«Ya sabemos lo que los alimentos ultraprocesados pueden hacerle al cuerpo, y esta es información ultraprocesada. Vamos a tener una avalancha de mentes ultraprocesadas», dijo.