Como reflejo de un caso de uso de IA cada vez más común, Google anunció hoy una serie de actualizaciones de Gemini para ayudar cuando los usuarios preguntan sobre salud mental. La empresa cree que “la IA responsable puede desempeñar un papel positivo en el bienestar mental de las personas”.
Cuando el chat “indica una crisis potencial relacionada con el suicidio o la autolesión”, Gemini ahora mostrará una interfaz de “un solo toque” para conectar a los usuarios con recursos de la línea directa con opciones para llamar, chatear, enviar mensajes de texto o visitar un sitio web. Una vez activada, esta tarjeta permanecerá visible durante toda la conversación. Las respuestas están diseñadas para “animar a las personas a buscar ayuda”.
Si una conversación indica que el usuario “puede necesitar información sobre salud mental”, Gemini mostrará un módulo rediseñado “Hay ayuda disponible”. Ha sido desarrollado con expertos clínicos “para proporcionar conexiones más efectivas e inmediatas con la atención”.
En general, Google está entrenando modelos Gemini para “ayudar a reconocer cuándo una conversación podría indicar que una persona puede estar en una situación aguda de salud mental” y dirigirlos a recursos del mundo real.
Anuncio: desplácese para ver más contenido
Las respuestas están diseñadas para “fomentar la búsqueda de ayuda y al mismo tiempo evitar la validación de comportamientos dañinos como el impulso de autolesionarse”. Además, Géminis está entrenado para “no estar de acuerdo con creencias falsas ni reforzarlas y, en cambio, distinguir suavemente la experiencia subjetiva del hecho objetivo”.
Para los usuarios más jóvenes, Google tiene protecciones adicionales:
Protecciones personales diseñadas para evitar que Géminis actúe como un compañero, incluidas barreras que le impiden afirmar ser un ser humano o poseer atributos humanos. Protecciones destinadas a prevenir la dependencia emocional, evitando lenguaje que simule intimidad o exprese necesidades. Salvaguardias contra el fomento del acoso u otros tipos de acoso.
Finalmente, Google.org anunció hoy una financiación de 30 millones de dólares a lo largo de tres años para ayudar a las líneas directas globales a aumentar su capacidad. Los esfuerzos específicos incluyen:
“Estamos ampliando nuestra asociación con ReflexAI para ayudar a las organizaciones del sector social a ampliar sus servicios de apoyo a la salud mental. Esta iniciativa incluye 4 millones de dólares en financiación directa y la integración de Gemini en el conjunto de formación de ReflexAI”. “… Los becarios de Google.org brindarán experiencia técnica gratuita para ayudar a desarrollar Prepare, una plataforma personalizable que utiliza simulaciones realistas impulsadas por IA para capacitar al personal y a los voluntarios para conversaciones críticas. Los socios prioritarios para esta nueva etapa incluyen organizaciones educativas como El faro de Erika y Educadores prosperando.”
FTC: Utilizamos enlaces de afiliados automáticos que generan ingresos. Más.
