NTT warns AI may undermine democracy and lead to wars

• Le géant japonais NTT a lancé un avertissement apocalyptique sur les dangers imminents de l'IA, appelant à la création d'écosystèmes permettant aux IA de se contrôler mutuellement, et à un renforcement de la réglementation.
• Les réglementations proposées incluent une éducation obligatoire pour les étudiants sur les avantages et inconvénients de l'IA, la mise à jour des protections de la propriété intellectuelle (y compris les droits d'auteur), et l'étiquetage du contenu original.
• NTT a reconnu que, comme il faudra encore du temps pour mettre en place un système de données liées à l'IA au Japon, des « lois souples » qui « fournissent une approche réglementaire commune identifiant les parties prenantes » devraient être adoptées en attendant.

L'IA générative ne peut pas rester sans contrôle

Le géant japonais des télécommunications NTT a émis lundi un avertissement apocalyptique sur les dangers imminents de l'intelligence artificielle. Voir aussi: Registre des membres disparaissant de l'AfriNIC.

« Si l'IA générative n'est pas contrôlée, la confiance dans l'ensemble de la société pourrait être endommagée, car les gens se méfient de plus en plus les uns des autres et perdent la motivation de garantir l'authenticité et la crédibilité », a affirmé l'entreprise japonaise de télécommunications dans une proposition conjointe avec le média Yomiuri Shimbun. Voir aussi: AfriNIC: disparition du registre des membres.

« On craint que dans le pire des cas, la démocratie et l'ordre social ne s'effondrent, conduisant à la guerre », ont déclaré les deux entités. Voir aussi: Alejandro Fernandez.

NTT et le Yomiuri Shimbun ont entamé des recherches conjointes sur la gouvernance idéale de l'IA générative à l'automne 2023. Les entreprises sont mécontentes du manque de précision inhérent à la technologie. Cela représente un danger encore plus grand, préviennent-ils, car la plupart des personnes ayant accès à Internet ont également accès à l'IA. Voir aussi: Aldo Garcia.

Lire aussi: IOWN de NTT optimisé par des dispositifs de convergence photonique-électronique

Nécessité d'une réglementation au stade de l'innovation en IA

« Notre proposition reconnaît que le chat métaphorique n'est plus dans le sac – supprimer l'IA générative à ce stade entraînerait une baisse de productivité – et doit donc affronter la relation incontrôlée entre l'IA et l'économie de l'attention. » Voir aussi: Alcymer Vieira.

Ils affirment qu'à mesure que l'IA générative entre dans la phase d'innovation, une réglementation deviendra nécessaire pour garantir les piliers fondamentaux de la société – tels que les élections et la sécurité. Voir aussi: Alcides Cremonezi.

Les réglementations proposées incluent une éducation obligatoire pour les étudiants sur les avantages et inconvénients de l'IA, la mise à jour des protections de la propriété intellectuelle (y compris les droits d'auteur), et l'étiquetage du contenu original. Voir aussi: Alberto Anaya.

Lire aussi: Google utilise l'IA pour créer des réponses de recherche lors d'un essai au Royaume-Uni

Un scepticisme rare envers l'IA dans l'industrie

NTT et Yomiuri ont admis que, contrairement à l'UE, le Japon ne dispose pas d'une politique stratégique et systématique en matière de données liées à l'IA. Comme sa mise en place prendra du temps, des « lois souples » qui « fournissent une approche réglementaire commune identifiant les parties prenantes » devraient être adoptées en attendant. La proposition suggère également qu'il devrait y avoir plusieurs IA disponibles – pour se vérifier et s'équilibrer mutuellement afin que les utilisateurs puissent recouper les résultats et éviter de dépendre d'un produit d'IA générative particulier. Voir aussi: Albert Kis.

La vision globale de NTT sur l'IA générative est un scepticisme rare envers la technologie de la part de l'industrie technologique elle-même. La plupart des grandes entreprises s'affairent à adapter leurs produits pour tirer parti de l'IA, de ses appareils et de ses infrastructures.