Resumen
Google está lanzando una versión para niños de su Gemini AI Chatbot para niños menores de 13 años, disponible solo a través de Family Link. Si bien Google dice que no usará los datos de los niños para entrenar a Gemini y ha agregado filtros de contenido, admite que los filtros no son perfectos. Los padres tendrán la opción de deshabilitar Gemini por completo si lo desean.
Hace un par de días, Chatgpt fue atrapado permitiendo a los menores generar erótica, según lo informado por TechCrunch. El bot de IA incluso alentó a algunos de estos usuarios menores a pedir contenido más explícito. Operai se apresuró a reconocer el problema y le dijo a TechCrunch que están “implementando activamente una solución”, y señaló que sus políticas no permiten que tales respuestas se muestren a los usuarios menores de dieciocho años.
Relacionado 6 cosas que no tenía idea de que Géminis podía hacer
Google Gemini se volvió aún más útil para mí
Si bien se confirmó que el problema se debió a un error, demuestra cuán peligrosa puede ser la IA, especialmente en manos de los jóvenes. Si bien los usuarios deben estar por encima de la edad de trece años para usar Openai y Google Gemini, Google también tiene planes bajo la manga para implementar Géminis a niños menores de 13 años. Desafortunadamente, aunque Google está dirigiendo sus esfuerzos para garantizar una experiencia segura para los usuarios más jóvenes, parte de mí teme que no termine demasiado bien.
Una versión para niños de Gemini se lanzará la próxima semana, pero se puede deshabilitar
Según lo informado por el New York Times, Google planea lanzar su chatbot de IA Gemini para niños menores de 13 años. La versión para niños de Gemini solo estará disponible para niños menores de 13 años que usan un enlace familiar, lo que permite a los padres establecer una cuenta de Google para su hijo. Family Link también permite a los padres supervisar la cuenta de su hijo al decidir qué aplicaciones puede instalar su hijo, bloquear ciertas aplicaciones, cambiar los permisos de aplicaciones, establecer límites de tiempo de pantalla, monitorear el uso e incluso restringir el contenido maduro en Google Play.
Google ha comenzado a enviar un correo electrónico a los padres que usan controles de enlaces familiares para administrar el dispositivo de su hijo, mencionando que Gemini Apps pronto estará disponible para sus hijos. Esto significa que podrán usar el asistente de IA para “hacer preguntas, obtener ayuda de la tarea y inventar historias”.
Fuente: Google
Si bien Google no utilizará los datos de un niño con una cuenta de enlace familiar que usa el Géminis amigable para los niños para capacitar a su IA, el gigante tecnológico reconoció los riesgos de la IA en el correo electrónico. Google aclaró que Géminis puede cometer errores, y los padres sugirieron que “ayuden a su hijo a pensar críticamente sobre las respuestas de Géminis”. También recomendaron recordarles a los niños que Gemini no es humano, mostrándoles cómo verificar sus respuestas y evitar el intercambio de información confidencial o personal cuando use Géminis.
Google señaló que sus filtros “intentan limitar el acceso al contenido inapropiado, pero no son perfectos”. En última instancia, esto podría resultar en que los niños vean contenido que los padres pueden encontrar inapropiado.
¿La buena noticia? Si prefiere que su hijo no use Gemini en absoluto, incluso la versión amigable para los niños, el portavoz de Google, Karl Ryan, confirmó al borde de que los padres tendrán la opción de deshabilitarla a través del enlace familiar. También mencionó que los padres o tutores serán notificados cuando su hijo use Géminis por primera vez.
