Los controles más estrictos llegaron después de que el adolescente Adam Raine, de California, se suicidara a principios de este año. En una demanda, sus padres aseguraron que ChatGPT le dio consejos específicos sobre cómo quitarse la vida. La Comisión Federal de Comercio (FTC)de Estados Unidos también lanzó una investigación contra varias compañías de tecnología, incluyendo OpenAI, sobre cómo los chatbots afectan potencialmente de manera negativa a niños y adolescentes.

“Dada la seriedad de este asunto queremos hacer esto bien”, dijo Altman el martes. Aseguró que las nuevas herramientas de seguridad de OpenAI permitirán a la empresa aliviar las restricciones mientras siguen abordando riesgos graves de salud mental. Los planes de OpenAI incluyen el lanzamiento de una versión actualizada de ChatGPT que permitirá a los usuarios adaptar la personalidad de su asistente de IA, incluyendo opciones para respuestas más humanas, uso intensivo de emojis o comportamiento amistoso.

El cambio más significativo llegará en diciembre cuando OpenAI planea implementar un control de edad más exhaustivo para llevar contenido erótico a adultos verificados. OpenAI no proporcionó detalles inmediatamente sobre los métodos de verificación de edad o controles adicionales de seguridad a la hora entregar contenido solo para adultos.

En septiembre, lanzó una experiencia de ChatGPT para menores de 18 años redirigiéndolos a contenido apropiado para su edad que bloquea material gráfico y sexual. También dijo que estaba desarrollando una tecnología de predicción basada en la edad que estima si un usuario es mayor o menor de 18 años y en cómo interactúa con ChatGPT.

 
Instagram filtrará más contenidos
Meta presentó el martes un nuevo filtro destinado a las cuentas de adolescentes en Instagram, con el que seleccionará todavía más los contenidos que les muestra, en especial los relacionados con tendencias virales considerados potencialmente nocivos.

El cambio se produce cuando Meta y otras plataformas de redes sociales están bajo presión por demostrar que no están poniendo el beneficio y el nivel de interacción por encima del bienestar de los usuarios, en especial de menores de edad. El grupo también dijo que desde 2026 prevé proporcionar dar una opción para restringir las conversaciones que los jóvenes usuarios pueden tener con los asistentes de inteligencia artificial (IA).

En septiembre de 2024, el grupo lanzó cuentas específicas para adolescentes (Teen Accounts) entre 13 y 18 años y la presentada el martes es una actualización para dicho segmento.

El cambio empieza a operar de inmediato en Estados Unidos, Canadá, Reino Unido y Australia, antes de aplicarlo en otros países en los próximos meses.

Teen Accounts ya excluía los contenidos de carácter sexual e imágenes gráficas o explícitas. La nueva versión ahora va a ocultar o no recomendar “publicaciones con lenguaje fuerte, ciertas acrobacias riesgosas” y contenido que promueva “comportamientos potencialmente dañinos”, según un comunicado.

Meta dijo que para determinar cuáles elementos no deben mostrarse a adolescentes se apoyó en la clasificación “PG-13” usada en los contenidos cinematográficos en Estados Unidos y que advierte a los padres que algunas partes no son aptas para menores de 13 años.

Es un esfuerzo por adoptar “las configuraciones más protectoras” para los adolescentes, según Capucine Tuffier, jefa de asuntos públicos de Meta. Tuffier dio como ejemplo los contenidos que promuevan “dietas estrictas” o “que glorifiquen o promuevan el alcohol o el tabaco”.

Según la empresa, la selección y clasificación de imágenes o videos publicados es una combinación de inteligencia artificial y operadores humanos.

Meta también prevé ofrecer mayor control a los padres sobre lo que hacen sus hijos en Instagram por medio de una opción de “restringir contenidos” que evita a los jóvenes el ver, escribir o recibir comentarios en sus publicaciones.

A partir de 2026, la opción de contenido restringido estará disponible también en las conversaciones entre adolescentes y asistentes de inteligencia artificial, explicó Meta. Una nueva ley de California promulgada el lunes exige a los operadores implementar salvaguardas “críticas” en relación con las interacciones con chatbots de IA.

Via: LN