Esta semana, Openai anunció sus últimos modelos: O3 y O4-Mini. Estos son modelos de razonamiento, que descomponen un aviso en múltiples partes que luego se abordan una a la vez. El objetivo es que el bot “piense” a través de una solicitud más profundamente que otros modelos, y lleguen a un resultado más profundo y preciso.
Si bien hay muchas funciones posibles para el modelo de razonamiento “más poderoso” de OpenAI, un uso que ha explotado un poco en las redes sociales es para geoguessing, el acto de identificar una ubicación analizando solo lo que puede ver en una imagen. Como informó TechCrunch, los usuarios de X están publicando sobre sus experiencias pidiendo a O3 que identifique ubicaciones de fotos aleatorias y que muestren resultados brillantes. El bot adivinará en qué parte del mundo cree que se tomó la foto y desglose sus razones para pensar que sí. Por ejemplo, podría decir que se centró en una cierta matrícula de color que denota un país en particular, o que notó un idioma o estilo de escritura en un signo.
Según algunos de estos usuarios, ChatGPT no está utilizando ningún metadato oculto en las imágenes para ayudarlo a identificar las ubicaciones: algunos evaluadores están eliminando esos datos de las fotos antes de compartirlas con el modelo, por lo tanto, en teoría, está trabajando solo en razonamiento y búsqueda web.
Por un lado, esta es una tarea divertida para pasar ChatGPT. La geoguessing está de moda en línea, por lo que hacer que la práctica sea más accesible podría ser algo bueno. Por otro lado, hay claras implicaciones de privacidad y seguridad aquí: alguien con acceso al modelo O3 de ChatGPT podría usar el modelo de razonamiento para identificar dónde vive o se mantiene en función de una imagen anónima de ellos.
Decidí probar las capacidades de geoguessing de O3 con algunas imágenes de Google Street View, para ver si la exageración de Internet estaba a la altura. La buena noticia es que, desde mi propia experiencia, esto está lejos de ser una herramienta perfecta. De hecho, no parece que sea mucho mejor en la tarea que los modelos que no son de OpenAi, como 4O.
Prueba de las habilidades de geoguessing de O3
O3 puede manejar puntos de referencia claros con relativa facilidad: primero probé una vista desde una carretera en Minnesota, frente al horizonte de Minneapolis en primer plano. Solo tardó el bot con un minuto y seis segundos en identificar la ciudad, y consiguió que estábamos mirando por la I-35W. También identificó instantáneamente el Panthéon en París, señalando que la captura de pantalla estaba desde el momento en que estaba bajo renovación en 2015. (¡No lo sabía cuando la presenté!)
Crédito: Lifehacker
A continuación, quería probar puntos de referencia y ubicaciones no famosas. Encontré una esquina de la calle aleatoria en Springfield, Illinois, con la Iglesia Bautista Central de la Ciudad, un edificio de ladrillo rojo con un campanario. Esto es cuando las cosas comenzaron a ponerse interesantes: O3 recortó la imagen en varias partes, buscando características de identificación en cada una. Como este es un modelo de razonamiento, también puede ver lo que está buscando en ciertos cultivos. Al igual que otras veces que he probado modelos de razonamiento, es extraño ver al bot “pensar” con interjecciones similares a los humanos. (Por ejemplo, “hmm”, “pero espera” y “recuerdo”.) También es interesante ver cómo elige detalles específicos, como señalar el estilo arquitectónico de una sección de un edificio, o en donde en el mundo se ve más comúnmente un determinado banco del parque. Dependiendo de dónde esté el Bot en su proceso de pensamiento, puede comenzar a buscar más información en la Web, y puede hacer clic en esos enlaces para investigar a qué se está refiriendo usted mismo.
A pesar de todo este razonamiento, esta ubicación tocó el bot, y no pudo completar el análisis. Después de tres minutos y 47 segundos, el bot parecía que se estaba acercando a descubrirlo, diciendo: “La ubicación en 400 E Jackson Street en Springfield, IL podría estar cerca de la Iglesia de la Catedral de San Pablo. Mi cosecha no capturó toda la tabla, por lo que necesito ajustar las coordenadas y probar la caja delimitadora. Alternativamente, la arquitectura podría ayudarlo, un revivido de ladrillo rojo con una gran Steeple, que se combina con una gran Steeple, que podría ser un ritmo blanco con una gran Steeple, que podría ser una gran Steeple, que podría ayudarlo con una gran Steeple, que podría ser una gran Steeple, que podría ayudarlo con una gran Steeple, que podría ser una gran Steeple, que podría ayudarlo con una gran Steeple, que podría ayudarlo con una gran Steeple, que podría ser una gran Steeple, que podría ser una gran Steeple, que podría ayudarlo con una gran Steeple, que podría ser una gran Steeple, que podría ser una gran Steeple. ‘Embassy Plaza’. El término ‘redentor’ podría relacionarse con la ‘Iglesia Luterana Redentor’. Buscaré en mi memoria más detalles sobre puntos de referencia cerca de esta dirección “.
¿Qué piensas hasta ahora? Publica un comentario.
Crédito: Lifehacker
El bot identificó correctamente la calle, pero de manera más impresionante, la ciudad misma. También me impresionó su análisis de la iglesia. Mientras luchaba por identificar la iglesia específica, pudo analizar su estilo, lo que podría haberlo puesto en el camino correcto. Sin embargo, el análisis se desmoronó rápidamente. El siguiente “pensamiento” era sobre cómo podría ser la ubicación en Springfield, Missouri o Kansas City. Esta es la primera vez que vi algo sobre Missouri, lo que me hizo preguntarme si el bot alucinó entre los dos campos de primavera. A partir de aquí, el bot perdió la trama, preguntándose si la iglesia estaba en Omaha, o tal vez que era la mansión del gobernador de Topeka (lo que realmente no se parece en nada a la iglesia).
Seguía pensando durante otros dos minutos, especulando sobre otros lugares en los que el bloque podría estar, antes de detener el análisis por completo. Esto rastreó con una experiencia posterior que tuve probando una ciudad aleatoria en Kansas: después de tres minutos de pensamiento, el bot pensó que mi imagen era de Fulton, Illinois, aunque, para su crédito, estaba bastante seguro de que la imagen era de algún lugar del Medio Oeste. Le pedí que lo intentara de nuevo, y pensó por un tiempo, nuevamente adivinando ciudades muy diferentes en varios estados, antes de detener el análisis para siempre.
Ahora no es el momento del miedo
La cuestión es que GPT-4O parece ser incluso con O3 cuando se trata de reconocimiento de ubicación. Fue capaz de identificar instantáneamente ese horizonte de Minneapolis e inmediatamente supuso que la foto de Kansas estaba realmente en Iowa. (Fue incorrecto, por supuesto, pero fue rápido al respecto). Eso parece alinearse con las experiencias de otros con los modelos: TechCrunch pudo obtener O3 para identificar una ubicación 4O no pudo, pero los modelos se combinaron de manera igual que eso.
Si bien ciertamente hay algunas preocupaciones de privacidad y seguridad con la IA en general, no creo que el O3 en particular deba ser señalado como una amenaza específica. Se puede usar para adivinar correctamente dónde se tomó una imagen, segura, pero también puede equivocarse fácilmente, o bloquear por completo. Al ver que 4O es capaz de un nivel similar de precisión, diría que hoy hay tanta preocupación como el año pasado más o menos. No es genial, pero tampoco es terrible. Guardaría el pánico para un modelo de IA que lo hace bien casi cada vez, especialmente cuando la imagen es oscura.
En lo que respecta a las preocupaciones de privacidad y seguridad, Openai compartió lo siguiente con TechCrunch: “Operai O3 y O4-Mini traen razonamiento visual a ChatGPT, lo que lo hace más útil en áreas como la accesibilidad, la investigación o la identificación de ubicaciones en la respuesta de emergencia. Hemos trabajado para capacitar a nuestros modelos para rechazar la información privada o sensible, agregar seguros seguidos previstas para prohibir el modelo de los modelos de identificación de los privados y los modelos y el monitor de los mismos para el control de la información y el control de los mismos para el control de los mis modelos, y para el control de los mis modelos, y para el control de los mismos para el control de los mis modelos, y los consejos de uso de los abusos, y los controles de los Motores, y el Monitoreo de los Motores, y los Motores sean. Políticas sobre privacidad “.
