Meta activará alertas para padres si un adolescente habla sobre suicidio con su IA
La nueva función de Meta AI notificará a los responsables de cuentas supervisadas cuando detecte conversaciones sobre suicidio o autolesiones. El sistema combinará inteligencia artificial con revisión humana antes de enviar las alertas.
Meta activará alertas para padres si un adolescente habla sobre suicidio con su IA.
Meta anunció una nueva herramienta de seguridad para adolescentes que permitirá alertar a padres y madres cuando el sistema detecte que un menor conversa con Meta AI sobre suicidio o autolesiones.
La función estará disponible para las cuentas de adolescentes que utilicen las herramientas de supervisión de Instagram. Cuando la inteligencia artificial identifique posibles señales de riesgo, los responsables recibirán una notificación junto con recursos elaborados por especialistas para orientar el acompañamiento.
Actualmente, Meta AI ya muestra líneas de ayuda y recomienda que el adolescente hable con un padre, consejero u otro adulto de confianza cuando detecta referencias relacionadas con el suicidio o las autolesiones. Con esta actualización, esa protección se amplía mediante un aviso directo a los adultos responsables.
Cómo funcionará el sistema
Meta explicó que desarrolló un modelo específico de inteligencia artificial para detectar referencias directas o indirectas sobre posibles autolesiones. Los criterios fueron definidos junto a profesionales especializados en salud mental adolescente.
Antes de enviar una alerta, las conversaciones identificadas como sensibles serán revisadas por personas para analizar el contexto y reducir posibles errores de interpretación.
La compañía aclaró que, en algunos casos, los padres podrían recibir advertencias aunque finalmente no exista un riesgo real, ya que el sistema priorizará la detección temprana y continuará ajustándose con la experiencia de uso y el aporte de especialistas.
También evalúan alertar a servicios de emergencia
La empresa informó además que trabaja en una función que permitiría contactar a los servicios de emergencia cuando una conversación con Meta AI indique un riesgo inminente de suicidio.
Según Meta, durante 2025 Facebook e Instagram enviaron más de 19.000 reportes a organismos de emergencia de distintos países tras detectar publicaciones con indicios de peligro.
Más controles para adolescentes
Más de 75 especialistas en salud mental adolescente analizaron cientos de respuestas generadas por Meta AI para evaluar si eran apropiadas para la edad de los usuarios, si reconocían correctamente sus emociones y si ofrecían orientación adecuada según el nivel de riesgo.
Además, las cuentas de adolescentes continuarán teniendo restricciones automáticas para impedir conversaciones de contenido sexual o solicitudes relacionadas con alcohol y otros temas considerados inapropiados para menores.
Las nuevas alertas ya funcionan para las familias que utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá. Meta prevé extender la función al resto del mundo antes de fin de año.
Meta anunció una nueva herramienta de seguridad para adolescentes que permitirá alertar a padres y madres cuando el sistema detecte que un menor conversa con Meta AI sobre suicidio o autolesiones.
Registrate gratis
Disfrutá de nuestros contenidos y entretenimiento
Suscribite por $1500 ¿Ya estás suscripto? Ingresá ahora
Comentarios