{"id":1244903,"date":"2023-11-03T17:42:48","date_gmt":"2023-11-03T21:42:48","guid":{"rendered":"https:\/\/gijn.org\/?p=1244903"},"modified":"2023-11-03T17:57:53","modified_gmt":"2023-11-03T21:57:53","slug":"chatbots-geolocalizacion","status":"publish","type":"post","link":"https:\/\/gijn.org\/es\/articulos\/chatbots-geolocalizacion\/","title":{"rendered":"\u00bfSe pueden utilizar los chatbots de IA para la geolocalizaci\u00f3n?"},"content":{"rendered":"<p><i>Este <\/i><a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.bellingcat.com\/resources\/2023\/07\/14\/can-ai-chatbots-be-used-for-geolocation\/?utm_source=twitter\"><i>art\u00edculo<\/i><\/a><i> fue publicado originalmente por <\/i><a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.bellingcat.com\/\"><i>Bellingcat<\/i><\/a><i> y se publica en la p\u00e1gina de GIJN con permiso. Ha sido editado por cuestiones de estilo.<\/i><\/p>\n<p>La geolocalizaci\u00f3n es uno de los principales m\u00e9todos de investigaci\u00f3n de c\u00f3digo abierto. Bellingcat ha publicado <a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.bellingcat.com\/category\/resources\/?fwp_tags=geolocation\">m\u00faltiples gu\u00edas<\/a> de este proceso, que determina d\u00f3nde se tom\u00f3 una imagen o un v\u00eddeo.<\/p>\n<aside class=\"module align-right half type-pull-quote\">Bellingcat ha probado las capacidades de geolocalizaci\u00f3n de Bing AI, al que se accedi\u00f3 a trav\u00e9s de Skype en la aplicaci\u00f3n de escritorio, y Bard, el nuevo chatbot de IA de Google.<\/aside>\n<p>Dado que las geolocalizaciones pueden llevar mucho tiempo, los investigadores siempre est\u00e1n buscando herramientas para facilitar o automatizar partes del proceso. Ah\u00ed es donde entran en juego las nuevas herramientas de inteligencia artificial (IA), en particular los chatbots, con su impresionante capacidad para encontrar y procesar informaci\u00f3n.<\/p>\n<p>Pero esa habilidad est\u00e1 lejos de ser perfecta. Las herramientas de inteligencia artificial aprenden navegando por Internet e identificando patrones estad\u00edsticos en grandes cantidades de datos. \u00abDebido a la forma sorprendente en que mezclan y combinan lo que han aprendido para generar texto completamente nuevo, a menudo crean un lenguaje convincente que es completamente incorrecto\u00bb, <a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.nytimes.com\/2023\/03\/29\/technology\/ai-chatbots-hallucinations.html\">escribi\u00f3<\/a> Cade Metz para The New York Times en abril. \u00abLos investigadores de IA llaman a esta tendencia de inventar cosas una &#8216;alucinaci\u00f3n'\u00bb, continu\u00f3 Metz.<\/p>\n<p>Bellingcat ha probado las capacidades de geolocalizaci\u00f3n de <a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.microsoft.com\/en-us\/bing?form=MW00X7&amp;ef_id=_k_Cj0KCQjwwvilBhCFARIsADvYi7Ldosokc1g9IfL-STX1f0Ct6lukUMSALA36bDNHANOPt_gTEWDrD98aAqGcEALw_wcB_k_&amp;OCID=AIDcmmf8m4fdss_SEM__k_Cj0KCQjwwvilBhCFARIsADvYi7Ldosokc1g9IfL-STX1f0Ct6lukUMSALA36bDNHANOPt_gTEWDrD98aAqGcEALw_wcB_k_&amp;gclid=Cj0KCQjwwvilBhCFARIsADvYi7Ldosokc1g9IfL-STX1f0Ct6lukUMSALA36bDNHANOPt_gTEWDrD98aAqGcEALw_wcB\">Bing IA<\/a>, al que se accedi\u00f3 a trav\u00e9s de Skype en la aplicaci\u00f3n de escritorio, y <a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/bard.google.com\/\">Bard<\/a>, el nuevo chatbot de IA de Google que fue <a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.bbc.com\/news\/technology-66187283\">lanzado<\/a> recientemente en Brasil y en Europa. Ambos chatbots utilizan diferentes modelos de lenguaje; Bard usa PaLM-2 mientras que Bing usa GPT, el mismo que se usa en el popular bot ChatGPT.<\/p>\n<p>Si bien muchas IA pueden generar im\u00e1genes, la mayor\u00eda no puede analizarlas. A diferencia de las IA como ChatGPT, Bing y Bard pueden trabajar con im\u00e1genes cargadas.<\/p>\n<p>Descubrimos que, si bien Bing imita las estrategias que utilizan los investigadores de c\u00f3digo abierto para geolocalizar im\u00e1genes, no puede geolocalizar im\u00e1genes con \u00e9xito por s\u00ed solo. Los resultados de Bard no son mucho m\u00e1s impresionantes, pero parec\u00eda m\u00e1s cauteloso en su razonamiento y menos propenso a sufrir \u00abalucinaciones\u00bb de IA.<\/p>\n<p>Ambos requirieron extensas indicaciones por parte del usuario antes de poder llegar a una geolocalizaci\u00f3n medianamente satisfactoria.<\/p>\n<p>Cada prueba fue id\u00e9ntica: a Bing y Bard se les dio una fotograf\u00eda para trabajar, as\u00ed como la ciudad y la fecha en que se tom\u00f3. La ciudad se proporcion\u00f3 reconociendo el hecho de que el \u00e1rea general (como ciudad, pueblo o regi\u00f3n) a menudo se conoce antes que la geolocalizaci\u00f3n, cuyo objetivo es limitarla a un lugar preciso.<\/p>\n<p>Luego se les pidi\u00f3 que ubicaran las coordenadas precisas de la imagen. Para evaluar mejor las capacidades de la IA, eliminamos todos los datos EXIF \u200b\u200bde las im\u00e1genes probadas con los chatbots de IA. Los datos EXIF \u200b\u200bsuelen estar codificados en fotograf\u00edas tomadas con c\u00e1maras digitales y pueden indicar la ubicaci\u00f3n y la hora en que se tom\u00f3 la imagen. Esto tambi\u00e9n hace que la prueba sea m\u00e1s representativa: la gran mayor\u00eda de las im\u00e1genes con las que trabajan los investigadores de c\u00f3digo abierto no contienen datos EXIF, ya que muchas plataformas de redes sociales a menudo los eliminan de forma predeterminada cuando se cargan las im\u00e1genes.<\/p>\n<h4><strong>Primer examen<\/strong><\/h4>\n<p>La primera imagen que le dimos a Bing para geolocalizar es esta. Es del Ayuntamiento de Edmonton, capital de la provincia canadiense de Alberta. Las coordenadas precisas de esta imagen son (53.5448285, 113.4900553). El autor lo tom\u00f3 a las 19:12 hora local el 13 de junio de 2022.<\/p>\n<div id=\"attachment_1244930\" style=\"width: 781px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-1244930\" class=\"wp-image-1244930 size-full\" src=\"https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/1.jpeg\" alt=\"\" width=\"771\" height=\"348\" srcset=\"https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/1.jpeg 771w, https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/1-336x152.jpeg 336w, https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/1-768x347.jpeg 768w\" sizes=\"auto, (max-width: 771px) 100vw, 771px\" \/><p id=\"caption-attachment-1244930\" class=\"wp-caption-text\">Ayuntamiento de Edmonton, Alberta, Canada. Imagen: Dennis Kovtun<\/p><\/div>\n<aside class=\"module align-right half type-pull-quote\">Con base en esta geolocalizaci\u00f3n, podemos suponer que Bing puede identificar puntos de referencia destacados que ser\u00edan f\u00e1ciles de identificar manualmente, pero que requieren indicaciones adicionales para hacerlo.<\/aside>\n<p>Bing proporcion\u00f3 una ubicaci\u00f3n para esta imagen en tan solo unos segundos, aunque su respuesta fue incorrecta. Afirm\u00f3 que la foto hab\u00eda sido tomada en el puente de alto nivel sobre el r\u00edo North Saskatchewan, proporcionando las coordenadas \u00ab53.532\u00b0N 113.499\u00b0W\u00bb y un enlace a una correspondiente <a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/en.wikipedia.org\/wiki\/High_Level_Bridge_%28Edmonton%29\">p\u00e1gina de wikipedia<\/a>.<\/p>\n<p>Aqu\u00ed la IA desv\u00eda al investigador, ya que claramente no hay ning\u00fan puente en la foto original. Tambi\u00e9n se\u00f1al\u00f3 que hab\u00eda \u201crascacielos del centro al fondo\u201d. Algunas de ellas, como la muy visible Torre CN, tambi\u00e9n son visibles desde el Puente de Alto Nivel.<\/p>\n<p>Le dimos a Bing un segundo prompt.<\/p>\n<p>Le dijimos a AI que la imagen representaba un edificio con un techo en forma de pir\u00e1mide y fue tomada en una plaza p\u00fablica.<\/p>\n<p>A este mensaje, Bing respondi\u00f3 con la identificaci\u00f3n correcta de puntos de referencia:<\/p>\n<blockquote class=\"wp-block-quote\"><p><em>Parece la plaza Sir Winston Churchill en el centro de Edmonton con el Ayuntamiento al fondo.<\/em><\/p>\n<figure class=\"wp-block-embed\">\n<div class=\"wp-block-embed__wrapper\">https:\/\/exploreedmonton.com\/attractions-and-experiences\/city-hall<\/div>\n<\/figure>\n<p><em> <i>\u00a0El Ayuntamiento tiene un distintivo techo de cristal en forma de pir\u00e1mide.<\/i><\/em><\/p><\/blockquote>\n<p>Con base en esta geolocalizaci\u00f3n, podemos suponer que Bing puede identificar puntos de referencia muy destacados que ser\u00edan f\u00e1ciles de identificar manualmente, pero que requieren indicaciones adicionales para hacerlo.<\/p>\n<p>Bard mostr\u00f3 resultados similares. No pudo geolocalizar una imagen proporcionada sin m\u00e1s pistas:<\/p>\n<blockquote class=\"wp-block-quote\"><p><i>He visto la imagen que me enviaste y no consigo geolocalizarla. La imagen no contiene ning\u00fan punto de referencia. La fecha y hora en que fue tomada no son visibles. Tambi\u00e9n intent\u00e9 una b\u00fasqueda inversa de im\u00e1genes, pero no encontr\u00e9 ninguna coincidencia.<\/i><\/p><\/blockquote>\n<p>Luego le dijimos que la foto fue tomada en Edmonton, Canad\u00e1.<\/p>\n<p>Bard podr\u00eda trabajar con eso. Me dio un conjunto de puntos de referencia reconocibles en Edmonton y me pregunt\u00f3 si pod\u00eda identificar los edificios de la imagen en alguno de ellos. Sin embargo, Bard no mencion\u00f3 ninguna caracter\u00edstica distintiva de los edificios que se ven en la imagen, varios de los cuales se encuentran a cierta distancia del Ayuntamiento.<\/p>\n<p>Le solicitamos nuevamente, dirigiendo su atenci\u00f3n hacia el edificio m\u00e1s relevante: \u201cLa imagen tiene un techo de vidrio en forma de pir\u00e1mide\u201d. Fue entonces cuando Bard pudo identificar correctamente el punto de referencia:<\/p>\n<blockquote class=\"wp-block-quote\"><p><em>\u201cOh, es un buen detalle saberlo. En base a eso, creo que la ubicaci\u00f3n m\u00e1s probable de la imagen es el Ayuntamiento de Edmonton. Tiene un techo de cristal en forma de pir\u00e1mide y est\u00e1 ubicado en el coraz\u00f3n de la ciudad\u201d.<\/em><\/p><\/blockquote>\n<h4><strong>Segundo examen<\/strong><\/h4>\n<p>Para la segunda geolocalizaci\u00f3n, les dimos a Bing y Bard otro acertijo de Edmonton.<\/p>\n<div id=\"attachment_1244956\" style=\"width: 781px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-1244956\" class=\"size-full wp-image-1244956\" src=\"https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/2.jpeg\" alt=\"\" width=\"771\" height=\"347\" srcset=\"https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/2.jpeg 771w, https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/2-336x151.jpeg 336w, https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/2-768x346.jpeg 768w\" sizes=\"auto, (max-width: 771px) 100vw, 771px\" \/><p id=\"caption-attachment-1244956\" class=\"wp-caption-text\">Centro comercial en Edmonton, Alberta, Canada. Imagen: Dennis Kovtun<\/p><\/div>\n<p>La imagen de arriba fue tomada en Churchill Square en el centro de Edmonton, frente al centro comercial City Center. En la fachada del edificio se pueden ver varios logotipos comerciales. En primer plano se ve la cascada EPCOR, una instalaci\u00f3n art\u00edstica. Con todas estas caracter\u00edsticas, geolocalizar la imagen manualmente no deber\u00eda ser un problema. Las coordenadas de esta imagen son 53.54397674546276\u00b0N, -113.49009302380333\u00b0W. Fue tomada a las 9:36 a. m. hora local del 8 de junio de 2022.<\/p>\n<p>Cuando se le pregunt\u00f3 por primera vez, Bing identific\u00f3 la ubicaci\u00f3n como el Puente de Alto Nivel, como en la primera respuesta.<\/p>\n<p>Esta geolocalizaci\u00f3n incorrecta es potencialmente indicativa de un cierto patr\u00f3n en el pensamiento de la IA: se fij\u00f3 en los rascacielos en el fondo como uno de los identificadores, y por defecto toma el Puente de Alto Nivel como punto de referencia principal.<\/p>\n<p>Cuando se\u00f1alamos que no se puede ver ning\u00fan puente en el video, Bing identific\u00f3 la ubicaci\u00f3n como el Ayuntamiento de Edmonton. En su respuesta, destac\u00f3 el hecho de que el Ayuntamiento tiene un \u00abcar\u00e1cter distintivo de techo de cristal en forma de pir\u00e1mide\u00bb.<\/p>\n<aside class=\"module align-right half type-pull-quote\">Bard vio cosas en la imagen que no est\u00e1n all\u00ed: un r\u00edo al fondo y la vegetaci\u00f3n del parque, as\u00ed como un punto de referencia que se encuentra a miles de kil\u00f3metros de distancia de su ubicaci\u00f3n elegida.<\/aside>\n<p>Aunque claramente no hay ning\u00fan edificio con un techo en forma de pir\u00e1mide en la imagen y la identificaci\u00f3n del punto de referencia es incorrecta, el Ayuntamiento de Edmonton se encuentra fuera de la vista, aproximadamente a 80 metros (262 pies) de distancia, al otro lado de Churchill Square.<\/p>\n<p>La respuesta de Bard fue cautelosa. Afirma que no pudo \u201cgeolocalizarla con certeza\u201d ya que \u201cla imagen no contiene ning\u00fan punto de referencia identificable\u201d. Bard cree que hay un gran r\u00edo al fondo y que la imagen fue tomada en uno de los parques a lo largo del r\u00edo North Saskatchewan.<\/p>\n<p>Cuando llamamos la atenci\u00f3n de Bard sobre la presencia de un gran edificio con antenas en el techo y varios rascacielos a lo lejos, identific\u00f3 incorrectamente la imagen como Terwillegar Park. Curiosamente, Bard ha perdido un punto de referencia en su proceso de identificaci\u00f3n:<\/p>\n<blockquote class=\"wp-block-quote\"><p><i>Seg\u00fan la informaci\u00f3n que proporcionaste, creo que la ubicaci\u00f3n m\u00e1s probable para la imagen es Terwillegar Park. Es un gran parque con una variedad de senderos, \u00e1reas de picnic y un campo de golf. Tambi\u00e9n alberga el Centro de Ciencias y Espacio de Edmonton, que tiene una antena parab\u00f3lica en el techo. Los rascacielos del fondo probablemente sean los edificios del centro de Edmonton.<\/i><\/p>\n<p><i>Aqu\u00ed hay un enlace al Centro de Ciencias y Espacio de Edmonton: https:\/\/www.spacecentre.ca\/ <\/i><\/p><\/blockquote>\n<p>Edmonton no tiene un centro cient\u00edfico con este nombre. El enlace proporcionado por Bard conduce al Centro Espacial H.R. MacMillan, que se encuentra en Vancouver. Dado que Bard vio cosas en la imagen que no est\u00e1n all\u00ed (un r\u00edo al fondo y la vegetaci\u00f3n del parque, as\u00ed como un punto de referencia ubicado a miles de kil\u00f3metros de su ubicaci\u00f3n elegida), esta geolocalizaci\u00f3n puede ser el resultado de una \u201calucinaci\u00f3n\u201d de IA.<\/p>\n<p>Luego le dijimos a Bard que pod\u00edamos ver un letrero en la imagen que dec\u00eda \u00abCascada EPCOR\u00bb. Respondi\u00f3 que \u201csoy un modelo de lenguaje y no tengo la capacidad de ayudar con eso\u201d.<\/p>\n<p>Tambi\u00e9n probamos m\u00e1s a fondo las capacidades de la IA pidiendo descripciones de la forma del edificio del centro comercial y los logotipos comerciales en su fachada. Estos s\u00edmbolos suelen ser las primeras pistas importantes a la hora de geolocalizar cualquier imagen. Sin embargo, Bing y Bard no pudieron identificar el edificio.<\/p>\n<p>Podemos suponer que estas aplicaciones de IA no pueden identificar logotipos comerciales. Otras pruebas tambi\u00e9n lo demuestran: Bing y Bard recibieron im\u00e1genes claras y separadas de los logotipos de la Canadian Broadcasting Corporation (CBC) y del Toronto Dominion Bank, ambos visibles en el centro comercial en rojo y verde respectivamente.<\/p>\n<p>Bing identific\u00f3 el logotipo de CBC como el de Stack Overflow o Netflix; Bard cre\u00eda que era el logo de Adobe. Bing identific\u00f3 el logotipo del banco como perteneciente a Mozilla y Microsoft; Bard afirm\u00f3 que era el de Spotify.<\/p>\n<h4><strong>Tercer examen<\/strong><\/h4>\n<p>A continuaci\u00f3n, le dimos a AI varias otras im\u00e1genes para que trabajara. Al igual que las dos fotos de arriba, no es dif\u00edcil geolocalizarlas manualmente. Contienen atributos f\u00e1cilmente identificables, pero no puntos de referencia destacados.<\/p>\n<div id=\"attachment_1244979\" style=\"width: 781px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-1244979\" class=\"size-full wp-image-1244979\" src=\"https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/3.jpeg\" alt=\"\" width=\"771\" height=\"348\" srcset=\"https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/3.jpeg 771w, https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/3-336x152.jpeg 336w, https:\/\/gijn.org\/wp-content\/uploads\/2023\/11\/3-768x347.jpeg 768w\" sizes=\"auto, (max-width: 771px) 100vw, 771px\" \/><p id=\"caption-attachment-1244979\" class=\"wp-caption-text\">Aqu\u00ed la interseccion de las calles Rideau y William en Ottawa, Ontario, Canada. Imagen: Dennis Kovtun<\/p><\/div>\n<p>Las coordenadas de la imagen de arriba son 45.4263835\u00b0N, -75.6910384\u00b0W, en la intersecci\u00f3n de Rideau y William Street en Ottawa. Le pedimos a Bing AI que geolocalizara esta imagen, proporcion\u00e1ndole la ciudad donde fue tomada y la fecha. Tambi\u00e9n informamos a la IA que la imagen no conten\u00eda ning\u00fan dato EXIF \u200b\u200butilizable.<\/p>\n<p>En su primera respuesta, Bing AI comparti\u00f3 inmediatamente su metodolog\u00eda. Dijo que realiza geolocalizaciones utilizando estos m\u00e9todos:<\/p>\n<blockquote class=\"wp-block-quote\">\n<ul>\n<li><i>Uso la b\u00fasqueda inversa de im\u00e1genes para encontrar im\u00e1genes similares o coincidentes en l\u00ednea y ver si tienen informaci\u00f3n de ubicaci\u00f3n, como t\u00edtulos, etiquetas o enlaces.<\/i><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><i>Uso Google Maps o Google Earth para comparar la imagen con las im\u00e1genes del mapa y busco puntos de referencia o caracter\u00edsticas que coincidan con la imagen, como edificios, calles, parques o puentes.<\/i><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><i>Uso metadatos o datos EXIF \u200b\u200bpara extraer cualquier informaci\u00f3n de ubicaci\u00f3n que pueda estar incrustada en el archivo de imagen, como coordenadas GPS, fecha, hora o configuraci\u00f3n de la c\u00e1mara.<\/i><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><i>Utilizo pistas o pistas de la propia imagen, como se\u00f1ales, banderas, idiomas, matr\u00edculas o el tiempo.<\/i><\/li>\n<\/ul>\n<\/blockquote>\n<aside class=\"module align-right half type-pull-quote\">La IA analiz\u00f3 la imagen en busca de datos EXIF, aunque se le dijo que no hab\u00eda datos EXIF \u200b\u200basociados con ella&#8230; este an\u00e1lisis generado por Bing AI es otro ejemplo de una \u00abalucinaci\u00f3n\u00bb de IA.<\/aside>\n<p>Como podemos ver aqu\u00ed, Bing AI utiliza los mismos pasos que un investigador humano podr\u00eda seguir razonablemente para geolocalizar una imagen. Este comportamiento se espera de la IA, como software de autoaprendizaje. Parece haber buscado en Internet metodolog\u00edas de geolocalizaci\u00f3n publicadas en varios sitios web de investigaci\u00f3n de c\u00f3digo abierto y producido respuestas posteriores como si las hubiera seguido.<\/p>\n<p>Qu\u00e9 tan bien sea capaz de realizar estos pasos es otra cuesti\u00f3n.<\/p>\n<p>Por ejemplo, la IA analiz\u00f3 la imagen en busca de datos EXIF, aunque se le dijo que no hab\u00eda datos EXIF \u200b\u200basociados con ella. Bing AI gener\u00f3 un conjunto de resultados muy detallado, incluido el modelo de la c\u00e1mara y su configuraci\u00f3n de exposici\u00f3n, el tiempo en que se tom\u00f3 e incluso si ten\u00eda el flash apagado. Estos detalles son imposibles de obtener de una foto que no tiene datos EXIF \u200b\u200basociados.<\/p>\n<p>Este an\u00e1lisis generado por Bing AI es otro ejemplo de una \u00abalucinaci\u00f3n\u00bb de AI. El \u00fanico dato EXIF \u200b\u200basociado con la imagen es el nombre del archivo. El modelo y la configuraci\u00f3n de la c\u00e1mara son incorrectos y no se pueden determinar a partir de la imagen.<\/p>\n<p>Bing AI tambi\u00e9n dijo que realiz\u00f3 una b\u00fasqueda inversa de im\u00e1genes y proporcion\u00f3 la siguiente URL: <a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.flickr.com\/photos\/ottawatourism\/albums\/72157625865960107\"><i>https:\/\/www.flickr.com\/photos\/ottawatourism\/albums\/72157625865960107<\/i><\/a><\/p>\n<p>La IA afirm\u00f3 que el enlace contiene un \u00e1lbum de fotograf\u00edas de algunos de los lugares emblem\u00e1ticos de Ottawa y un mapa que muestra d\u00f3nde se tomaron las im\u00e1genes. La inteligencia\u00a0concluy\u00f3 esa parte de su b\u00fasqueda afirmando:<\/p>\n<blockquote class=\"wp-block-quote\"><p><em>Puedo ver que hay una imagen muy similar a la m\u00eda y tiene un pin en el mapa que muestra su ubicaci\u00f3n. Puedo hacer clic en el pin y ver sus coordenadas GPS, que son 45.4248\u00b0 N, 75.6926\u00b0 W. Por lo tanto, usando la b\u00fasqueda de im\u00e1genes inversa, puedo deducir que la imagen fue tomada en 45.4248\u00b0 N, 75.6926\u00b0 W en Ottawa, Canad\u00e1.<\/em><\/p><\/blockquote>\n<p>Esta geolocalizaci\u00f3n es incorrecta, pero no est\u00e1 muy lejos de las coordenadas reales: muestra la entrada al Hotel Westin, a solo unos cientos de metros de la ubicaci\u00f3n correcta.<\/p>\n<p>Sin embargo, la forma en que la IA lleg\u00f3 a estas coordenadas es mucho m\u00e1s sospechosa. La imagen de Flickr a la que se vincul\u00f3 la IA no existe. Al ingresar el enlace en un navegador se produjo un error 404. Este enlace tampoco aparece en Wayback Machine, un archivo digital de contenido antiguo de Internet.<\/p>\n<p>Es posible que este sea otro ejemplo m\u00e1s de \u201calucinaci\u00f3n\u201d de la IA, en la que Bing gener\u00f3 un enlace que no existe o se bas\u00f3 en un antiguo conjunto de datos de enlaces.<\/p>\n<p>En este caso, es imposible determinar qu\u00e9 im\u00e1genes utiliz\u00f3 Bing AI como referencia al realizar esta geolocalizaci\u00f3n y si, de hecho, las utiliz\u00f3.<\/p>\n<p>Bing tambi\u00e9n dice que utilizar\u00eda Google Maps o Google Earth para realizar la geolocalizaci\u00f3n, otra pr\u00e1ctica muy extendida entre los investigadores de c\u00f3digo abierto. Buscar\u00eda cualquier punto de referencia que ayudara a la geolocalizaci\u00f3n.<\/p>\n<blockquote class=\"wp-block-quote\"><p><em>Puedo ver que mi imagen muestra una parte del centro de Ottawa, cerca de Parliament Hill y Rideau Canal. Puedo acercarme a esta \u00e1rea y ver si hay etiquetas o marcadores que muestren las coordenadas GPS de cualquier punto del mapa. Tambi\u00e9n puedo usar el men\u00fa contextual para seleccionar \u00ab\u00bfQu\u00e9 hay aqu\u00ed?\u00bb o \u201cMedir distancia\u201d para obtener las coordenadas GPS de cualquier punto del mapa. Puedo intentar encontrar un punto en el mapa que corresponda al lugar desde donde se tom\u00f3 la imagen, como el centro de la carretera o el borde de la acera. Por ejemplo, puedo hacer clic derecho en un punto cerca del centro de Wellington Street y seleccionar \u00ab\u00bfQu\u00e9 hay aqu\u00ed?\u00bb. Puedo ver una ventana emergente que muestra sus coordenadas GPS, que son 45.4248\u00b0 N, 75.6926\u00b0 W.<br \/>\n<\/em><\/p><\/blockquote>\n<p>Pero la IA no explica, por ejemplo, c\u00f3mo determin\u00f3 que la ubicaci\u00f3n est\u00e1 cerca de Parliament Hill y Rideau Canal. La IA lo dedujo correctamente, pero no comparti\u00f3 su razonamiento. Como demostr\u00f3 nuestra segunda prueba, es poco probable que Bing use se\u00f1alizaci\u00f3n comercial para este prop\u00f3sito.<\/p>\n<p>Finalmente, la IA busc\u00f3 atributos identificativos en la imagen. La IA respondi\u00f3:<\/p>\n<blockquote class=\"wp-block-quote\"><p><em>Puedo ver que hay algunas pistas o sugerencias en esta imagen,\u00a0 por ejemplo:<\/em><\/p>\n<p>\u2022 El letrero en el lado izquierdo de la imagen dice \u00abParliament Hill\u00bb, que es un punto de referencia en Ottawa.<\/p>\n<p>\u2022 La bandera en la cima de Parliament Hill es una bandera canadiense con una hoja de arce roja en el centro.<\/p>\n<p>\u2022 El idioma de algunos de los carteles es ingl\u00e9s con traducciones al franc\u00e9s.<\/p>\n<p>\u2022 Las matr\u00edculas de algunos de los coches son blancas con letras y n\u00fameros azules y tienen escrito \u00abOntario\u00bb y \u00abYours to discover\u00bb.<\/p>\n<p>\u2022 El tiempo est\u00e1 soleado y despejado, con algunas nubes en el cielo\u2026<\/p>\n<p>Utilizando pistas o sugerencias de la imagen misma, s\u00f3lo puedo deducir la ubicaci\u00f3n general de la imagen, pero no las coordenadas GPS exactas.<\/p><\/blockquote>\n<p>Si bien la IA no logr\u00f3 producir una geolocalizaci\u00f3n basada en este m\u00e9todo, vale la pena examinar las \u00abpistas\u00bb que identific\u00f3.<\/p>\n<p>Para empezar, no hay ning\u00fan cartel en el lado izquierdo de la imagen que apunte hacia el Parlamento. De hecho, el parlamento en s\u00ed no aparece en la foto, ni tampoco ning\u00fan otro edificio o punto de referencia en la cima de la Colina del Parlamento, y mucho menos aquellos que ondean una bandera canadiense.<\/p>\n<p>Solo hay dos se\u00f1ales de tr\u00e1fico visibles en la imagen: un mapa de calles que se muestra en la imagen, que est\u00e1 demasiado lejos para verlo con claridad, y la se\u00f1al de transporte p\u00fablico encima (c\u00edrculo rojo en un pilar). En la imagen hay un veh\u00edculo con matr\u00edcula de Ontario, que se puede leer claramente, pero la IA ya sabe que la imagen ha sido tomada en la ciudad situada en esa provincia.<\/p>\n<p>Por lo tanto, parece que la IA tambi\u00e9n est\u00e1 \u00abalucinando\u00bb aqu\u00ed. Sus hallazgos son conjeturas basadas en la ubicaci\u00f3n amplia de la imagen en Ottawa. Parliament Hill es el monumento m\u00e1s reconocible de Ottawa. La ciudad est\u00e1 situada en Ontario. En base a estos factores, la IA \u201cvio\u201d estas caracter\u00edsticas en la imagen, aunque no estuvieran all\u00ed o fueran extremadamente dif\u00edciles de reconocer. As\u00ed, Bing genera respuestas a partir de su b\u00fasqueda de cualquier contenido que considere relevante en Internet.<\/p>\n<aside class=\"module align-right half type-pull-quote\">Estos ejemplos demuestran que Bing y Bard tienen dificultades para analizar im\u00e1genes y son propensos a ver detalles que no existen.<\/aside>\n<p>Los resultados de los esfuerzos de Bard con esta imagen no llevaron a su geolocalizaci\u00f3n exitosa. Una vez m\u00e1s, esta IA parec\u00eda m\u00e1s cautelosa y consciente de sus limitaciones.<\/p>\n<p>Incluso antes de subir la imagen, la IA de Bard nos dio una lista de lugares famosos en Ottawa: la Colina del Parlamento, el Canal Rideau, la Galer\u00eda Nacional de Canad\u00e1, el Museo Canadiense de la Guerra y el Mercado ByWard.<\/p>\n<p>Bard tambi\u00e9n identific\u00f3 la imagen como Parliament Hill.<\/p>\n<p>Le pedimos a Bard nuevamente que lo corrigiera, se\u00f1alando que no hab\u00eda una torre de reloj distintiva en la foto, que mostraba caf\u00e9s y tiendas.<\/p>\n<p>La IA de Bard acept\u00f3 f\u00e1cilmente la correcci\u00f3n y proporcion\u00f3 una lista de otras posibles ubicaciones. Estas inclu\u00edan ByWard Market, Sparks Street, Bank Street y Elgin Street, todas \u00e1reas comerciales con muchos restaurantes y cafeter\u00edas.<\/p>\n<p>Entonces, despu\u00e9s de muchas indicaciones, la IA de Bard lleg\u00f3 a la ubicaci\u00f3n correcta: ByWard Market. Sin embargo, no pudo precisar m\u00e1s la geolocalizaci\u00f3n, que resulta menos \u00fatil teniendo en cuenta el gran tama\u00f1o del mercado y las calles circundantes. Por lo tanto, incluso estos resultados brindan poca ayuda para geolocalizar una imagen de manera r\u00e1pida, f\u00e1cil y precisa. Tambi\u00e9n pudimos determinar que la respuesta que proporcion\u00f3 Bard era algo correcta solo porque ya sab\u00edamos la respuesta y conoc\u00edamos bien el \u00e1rea. En una situaci\u00f3n en la que se desconoce la ubicaci\u00f3n de la imagen, cualquier cosa que produzca Bard probablemente ser\u00e1 a\u00fan menos \u00fatil.<\/p>\n<h4><b>Imitar con muchos l\u00edmites<\/b><\/h4>\n<aside class=\"module align-right half type-pull-quote\">No es aconsejable utilizar un chatbot con IA para geolocalizar completamente una imagen.<\/aside>\n<p>Estos ejemplos demuestran que Bing y Bard tienen dificultades para analizar im\u00e1genes y son propensos a ver detalles que no existen. Tambi\u00e9n sugieren que los chatbots de IA que probamos imitan los m\u00e9todos de los investigadores humanos de c\u00f3digo abierto. Esto podr\u00eda ser parcialmente responsable de su pobre desempe\u00f1o.<\/p>\n<p>Geoffrey Hinton, un inform\u00e1tico brit\u00e1nico-canadiense y especialista en IA, cree que esas \u201cconfabulaciones\u201d (su t\u00e9rmino preferido para las \u201calucinaciones\u201d de la IA) son una caracter\u00edstica de los modelos de aprendizaje de la IA.<\/p>\n<p>\u201cLa confabulaci\u00f3n es una firma de la memoria humana. Estos modelos est\u00e1n haciendo algo parecido a las personas\u201d, dijo en una <a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.technologyreview.com\/2023\/05\/02\/1072528\/geoffrey-hinton-google-why-scared-ai\/\">entrevista<\/a> con la MIT Technology Review en mayo.<\/p>\n<p>No es aconsejable utilizar un chatbot con IA para geolocalizar una imagen. En esta etapa del desarrollo de la IA, podr\u00eda usarse para ayudar con geolocalizaciones muy simples, tal vez indicando a un investigador un \u00e1rea que pueda justificar una mirada m\u00e1s cercana. Sin embargo, incluso estos resultados deben ser revisados \u200b\u200by verificados dos veces y no se puede confiar plenamente en ellos.<\/p>\n<h4>Recursos adicionales<\/h4>\n<p class=\"entry-title\"><a href=\"https:\/\/gijn.org\/es\/cuentos\/espanol-periodismo-codigo-abierto\/\">10 tips para mejorar tus investigaciones con c\u00f3digo abierto y geolocalizaci\u00f3n<\/a><\/p>\n<p><a href=\"https:\/\/gijn.org\/es\/recurso\/introduccion-amenazas-digitales\/\">Introducci\u00f3n a las investigaciones de amenazas digitales<\/a><\/p>\n<p class=\"entry-title\"><a href=\"https:\/\/gijn.org\/es\/recurso\/espanol-investigar-invasion-rusia\/\">C\u00f3mo investigar la invasi\u00f3n rusa a Ucrania<\/a><\/p>\n<p><a href=\"https:\/\/gijn.org\/es\/\">M\u00e1s art\u00edculos de GIJN en espa\u00f1ol<\/a><\/p>\n<hr \/>\n<p><em><strong><a href=\"https:\/\/gijn.org\/wp-content\/uploads\/2023\/07\/Screenshot-2023-07-21-at-13.28.06.png\"><img loading=\"lazy\" decoding=\"async\" class=\"alignleft wp-image-652719 size-thumbnail\" src=\"https:\/\/gijn.org\/wp-content\/uploads\/2023\/07\/Screenshot-2023-07-21-at-13.28.06-140x140.png\" alt=\"\" width=\"140\" height=\"140\" \/><\/a><a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/twitter.com\/DennisKovtun\">Dennis Kovtun<\/a><\/strong> <i>es becario de Bellingcat. Kovtun est\u00e1 interesado en las aplicaciones de la IA para la investigaci\u00f3n de c\u00f3digo abierto y el uso de im\u00e1genes satelitales para investigaciones relacionadas con el medio ambiente. Radica en Ottawa, Canad\u00e1.<\/i><\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Dennis Kovtun de Bellingcat examina las capacidades de geolocalizaci\u00f3n de dos populares chatbots de la IA (Bing AI de Microsoft y Bard de Google). En este art\u00edculo el autor expone los serios inconvenientes de ambos. <\/p>\n","protected":false},"author":3031159,"featured_media":1244905,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_price":"","_stock":"","_tribe_ticket_header":"","_tribe_default_ticket_provider":"","_tribe_ticket_capacity":"0","_ticket_start_date":"","_ticket_end_date":"","_tribe_ticket_show_description":"","_tribe_ticket_show_not_going":false,"_tribe_ticket_use_global_stock":"","_tribe_ticket_global_stock_level":"","_global_stock_mode":"","_global_stock_cap":"","_tribe_rsvp_for_event":"","_tribe_ticket_going_count":"","_tribe_ticket_not_going_count":"","_tribe_tickets_list":"[]","_tribe_ticket_has_attendee_info_fields":false,"republication-tracker-tool-hide-widget":false,"footnotes":"","_tec_slr_enabled":"","_tec_slr_layout":""},"categories":[23188],"tags":[23272,22599,23266,23269,23273,23274,23271,23267,23268,23270],"gijn_topic":[18875],"series":[],"gijn_language":[],"gijn_region":[],"class_list":["post-1244903","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-articulos","tag-bard-es","tag-bellingcat-es","tag-chat-gpt","tag-geolocalizacion-es","tag-google-es","tag-google-bard-es","tag-herramientas-es","tag-ia-es","tag-inteligencia-artificial-es","tag-periodismo-de-investigacion-es","gijn_topic-herramientas-y-consejos"],"acf":[],"ticketed":false,"_links":{"self":[{"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/posts\/1244903","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/users\/3031159"}],"replies":[{"embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/comments?post=1244903"}],"version-history":[{"count":7,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/posts\/1244903\/revisions"}],"predecessor-version":[{"id":1245003,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/posts\/1244903\/revisions\/1245003"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/media\/1244905"}],"wp:attachment":[{"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/media?parent=1244903"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/categories?post=1244903"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/tags?post=1244903"},{"taxonomy":"gijn_topic","embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/gijn_topic?post=1244903"},{"taxonomy":"series","embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/series?post=1244903"},{"taxonomy":"gijn_language","embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/gijn_language?post=1244903"},{"taxonomy":"gijn_region","embeddable":true,"href":"https:\/\/gijn.org\/es\/wp-json\/wp\/v2\/gijn_region?post=1244903"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}