IGF 2023: La IA y el big data podrían dominar el mundo y también salvarlo
¿La principal noticia de la edición 2023 del Foro de Gobernanza de Internet (IGF 2023)? El poder de la IA y cómo controlarla, aprovecharla y garantizar que la próxima generación no herede un enorme desastre digital que limpiar.
IGF 2023: La IA y el big data podrían dominar el mundo y también salvarlo se rastrea como una institución de infraestructura de internet dentro del ecosistema de infraestructura de internet.
IGF 2023: La IA y el big data podrían dominar el mundo y también salvarlo tiene relevancia de fuente pública para las operaciones de red, la gobernanza, el mapeo de dependencias o la estructura del mercado.
IGF 2023: La IA y el big data podrían dominar el mundo y también salvarlo se rastrea como una institución de infraestructura de internet dentro del ecosistema de infraestructura de internet.
¿La principal noticia de la edición 2023 del Foro de Gobernanza de Internet (IGF 2023)? El poder de la IA y cómo controlarla, aprovecharla y garantizar que la próxima generación no herede un enorme desastre digital que limpiar.
IGF 2023: La IA y el big data podrían dominar el mundo y también salvarlo conlleva impacto Medio en este archivo.
ConfianzaiConfianza limitada (80%)
Varias fuentes públicas
IGF 2023: La IA y el big data podrían dominar el mundo y también salvarlo es perfilado por BTW Media porque la evidencia publicada lo vincula con la infraestructura de internet, la gobernanza, las dependencias operativas o la visibilidad del mercado.
En un enorme centro de conferencias de varios niveles con vistas a un lago estilizado frente a un fondo de montañas verdes, miles de delegados se reunieron recientemente en Kioto, Japón, para debatir y considerar el futuro de Internet.
El evento de cinco días estuvo repleto de las frases y mensajes habituales que se esperan de una convención con políticos de alto nivel y portavoces corporativos y organizacionales: “participación de múltiples partes interesadas”, “colaboración”, “privacidad, seguridad y protección” fueron algunos de los términos más repetidos. Pero algunas sesiones despojaron la jerga poco inspirada para revelar dos realidades de peso. En primer lugar, la Inteligencia Artificial (IA), posiblemente el avance tecnológico más poderoso que el mundo haya visto jamás, es una fuerza formidable para el bien, y sería un enemigo aún más formidable.
Los avances en este ámbito deben garantizar que la humanidad posea y controle la IA, y nunca debemos permitir que esa relación se invierta. En segundo lugar, la recopilación, el flujo y el intercambio de datos, en particular a través de las fronteras internacionales, ofrecen oportunidades similares para un progreso espectacular, especialmente cuando se combinan con la IA, pero también conllevan amenazas.
Para ilustrarlo:
Cada vez que se produce un terremoto, digamos en Japón, este proporciona enormes cantidades de datos que pueden analizarse mediante modelos de IA para intentar predecir futuros terremotos y garantizar que el próximo sea menos dañino y se salven vidas. Si esos datos se comparten a través de las fronteras internacionales, los datos sísmicos de Japón podrían ayudar a salvar vidas también en otros países, y viceversa.
Pero la capacidad de la IA para “alucinar” –inventar cosas– ya está bien documentada, y una predicción falsa de un desastre inminente, especialmente si incluye órdenes de evacuación, podría ser increíblemente disruptiva y potencialmente dañina. Además, los datos utilizados para alimentar la IA deben ser precisos, fiables y libres de problemas de privacidad y ciberseguridad y, en un plano más político, deben ser utilizables tanto por sociedades técnicamente avanzadas como por sociedades en desarrollo.
Existen riesgos, por ejemplo, de que los países avanzados puedan tomar y utilizar datos de otros países sin compartir luego la información obtenida mediante el análisis de esos datos con IA.
“Los datos son el alma de muchas economías hoy en día”, afirmó Taro Kono, ministro de Transformación Digital y Reforma de Japón, en una de las sesiones inaugurales. “Pero están fragmentados, la gobernanza está fragmentada, los responsables políticos no siempre conocen las tecnologías emergentes que pueden ayudar y el público en general debe comprender las amenazas en torno a la desinformación y la precisión de los datos”.
El Foro de Gobernanza de Internet 2023 se celebró en el Centro Internacional de Conferencias de Kioto.
Cómo la IA y los datos ayudaron durante la COVID
Los beneficios de este tipo de combinación de IA y datos se vieron mejor durante eldesarrollo de las vacunas contra la COVID-19. “La COVID demostró lo importantes que son los datos para desbloquear innovaciones en salud”, dijo Courtney Gregoire, directora de seguridad digital de Microsoft. “Los buenos datos generan mejores ideas, mayor productividad y ayudan a todos. Pero los ciudadanos deben sentir que sus datos están seguros y protegidos, por lo que necesitamos mecanismos de confianza para la transferencia de datos”.
Moderna y Pfizer pudieron crear sus vacunas contra la COVID en un tiempo récord y también distribuirlas de manera mucho más eficaz utilizando métodos de IA. Por muy prolongada que pareciera la pandemia, habría sido mucho peor sin los avances en IA y los protocolos de intercambio de datos que permitieron llevar a cabo un programa de vacunación mundial.
Iniciativas comoDHIS2 de la Universidad de Oslotambién ayudarán con futuras iniciativas sanitarias y brotes. Es un sistema de información de gestión sanitaria de código abierto que ya se utiliza en 100 países que han acordado compartir sus datos en el sistema.
Y la iniciativa de Flujo Libre de Datos con Confianza (DFFT, por sus siglas en inglés), establecida por Japón en 2019, reunirá a personas del gobierno, el mundo académico, el sector privado y la sociedad civil (ONG, organizaciones de consumidores) para tratar de salvar algunas de las brechas que existen actualmente en las directrices (cuando existen) para el suministro y uso de datos.
Vint Cerf, conocido como uno de los padres de Internet, participó en los debates sobre la IA.
El sesgo de la IA y cómo resolverlo
Junto con los increíbles avances que se pueden lograr utilizando datos globales e IA, existen debilidades, al menos por ahora. Pequeños defectos en los datos pueden ser exacerbados por la máquina. “El sesgo en la IA es muy real”, dijo Ivana Bartoletti, directora global de privacidad de Wipro. “Sabemos que la IA muestra trabajos peor remunerados a las mujeres, por ejemplo, y por eso la toma de decisiones automatizada y estos sesgos afectarán a las vidas”.
Sin embargo, el problema no es solo tecnológico, ya que los modelos de IA siempre se entrenan con datos e información existentes, moldeados por humanos. “Estos problemas pueden abordarse desde un punto de vista técnico, pero el problema es más profundo”, añadió Bartoletti. “Está arraigado en la sociedad”.
ElProceso de Hiroshimaespera abordar esto de manera inminente. Creado en la cumbre del G7 en Hiroshima a principios de 2023, el “Proceso de Hiroshima del G7 sobre Inteligencia Artificial Generativa” espera proporcionar un código de conducta, así como cuestiones a tener en cuenta, para cualquier persona que utilice modelos de IA generativa. El informe final se presentará antes de finales de 2023.
Desinformación y noticias falsas en la IA generativa
Una de las mayores preocupaciones en torno a la IA generativa es, por supuesto, la producción y proliferación de “noticias falsas”: imágenes, videos e historias que parecen documentar la realidad, pero son ficciones, y a menudo se crean con fines nefastos. “La tecnología ha hackeado nuestra biología para eludir nuestras mentes racionales mientras las distintas plataformas compiten por nuestra atención”, dijo Maria Ressa, directora ejecutiva y fundadora de Rappler, y ganadora del Premio Nobel de la Paz en 2021.
“El setenta por ciento del mundo está ahora bajo regímenes autoritarios, y las plataformas de redes sociales continúan negando, desviando y retrasando. Debemos actuar más rápido. Este es un momento cultural para el mundo”.
Ressa señaló que “las mentiras se difunden seis veces más rápido que la verdad”, una estadísticadescubierta por el MIT Media Lab, y explicada por el hecho de que las falsedades casi siempre están diseñadas para apelar a nuestras respuestas emocionales, mientras que los hechos secos no lo hacen.
Altos funcionarios estuvieron presentes en el foro.
El presidente de asuntos globales de Meta, Nick Clegg, señaló el trabajo que están haciendo, utilizando la propia IA para combatir los aspectos negativos de la IA generativa. “El discurso de odio en Facebook se produce a un ritmo de alrededor del 0,01% al 0,02%, por lo que, por cada 10.000 publicaciones que se revisen, una o dos podrían considerarse dañinas. Y eso ha disminuido un 60% en los últimos 18 meses, gracias a nuestro uso de la IA para combatirlo. Así que estamos utilizando la IA como una herramienta para minimizar lo malo y amplificar lo bueno”.
El presidente de asuntos globales de Google, Kent Walker, también destacó el trabajo que Google estaba realizando, como con SynthID, que intenta detectar contenido generado por IA y marcarlo como tal, y el Marco de IA Segura (SAIF, por sus siglas en inglés), que tiene como objetivo reducir los riesgos al implementar y utilizar modelos de IA, particularmente en lo que respecta a los datos.
“Identificar imágenes y videos a nivel de píxel para poder autenticar de dónde provienen, etiquetar imágenes de IA en anuncios electorales: todo está diseñado para comprender el significado subyacente del contenido, para determinar en qué podemos y no podemos confiar”, dijo.
Esa palabra, “confianza”, fue cómo comenzó la reunión de cuatro días, y es acertado que se repitiera una y otra vez. Maria Ressa se mostró especialmente firme en que la confianza es fundamental para los problemas, y las oportunidades, que trae la IA, y que todo comienza con la precisión de los datos con los que se entrena la IA. “Sin hechos no hay verdad, y sin verdad no hay confianza, y sin las tres no hay libertad ni democracia”.
Dado que la IA generativa puede crear “un tsunami de información al instante”, citando a Tatsuhiko Yamamoto, profesor de la Facultad de Derecho de la Universidad de Keio, cualquier trabajo que pueda ayudar a aliviar la epidemia de noticias falsas vale la pena.
Resumen de señal
Señal: IGF 2023: La IA y el big data podrían dominar el mundo y también salvarlo
Tipo de señal: Tema relacionado
Región: Asia-Pacífico
Clase de mercado: Tendencias de servicios en la nube globales
Superficie operativa
Las fuentes publicadas deben identificar a las partes afectadas, la superficie operativa y la exposición de mercado antes de tratar este mapa de tendencia como completo.
Contexto de mercado
Relevancia operativa: Medio
Horizonte: Próximo trimestre
Qué vigilar
Vigilar declaraciones oficiales, actualizaciones regulatorias, exposición de clientes o socios y divulgaciones posteriores.
Briefing para miembros
Contexto de tendencia profundo
Inicia sesión con el nivel de membresía adecuado para desbloquear el briefing completo y las notas de fuente.
Solo para Círculo Estratégico
Círculo Estratégico
Abierto a todos los lectores. Desbloquea briefings de tendencia después de unirte e iniciar sesión.
Para operadores, inversores y equipos de política que necesitan evidencia relacional, rutas de fallo y notas de fuente. Inicia sesión para desbloquear.
