En dévoilant un nouvel organe consultatif mondial composé de 39 membres chargé de superviser la gouvernance de l'IA, le Secrétaire général de l'ONU, António Guterres, s'est entendu sur notre compagnon robot émergent.
«Dans nos temps difficiles, l'IA pourrait permettre des progrès extraordinaires pour l'humanité», a-t-il déclaré. «De la prédiction et de la résolution des crises, à la mise en place de services de santé publique et de services éducatifs, l'IA pourrait permettre de scaler et d'amplifier le travail des gouvernements, de la société civile et des Nations Unies dans tous les domaines.»
Selon Guterres, l'IA a le potentiel de faire progresser l'action climatique pour atteindre les Objectifs de développement durable (ODD) - un ensemble d'objectifs interconnectés adoptés par l'ONU en 2015 et conçus pour servir de «plan d'action commun pour la paix et la prospérité des personnes et de la planète».
Il a ajouté que la technologie pourrait également aider à «sauter par-dessus les technologies obsolètes» et mieux servir les populations «où les besoins sont plus importants», ajoutant que le monde a un «besoin urgent de cet outil et accélérateur».
Pour exploiter tous ces avantages présumés, Guterres espère que le nouvel organisme de gouvernance pourra aider à le faire tout en minimisant bon nombre des risques.
Guterres a déclaré que l'IA doit être «exploitée de manière responsable» et accessible à toutes les personnes dans le monde, «y compris les pays en développement qui en ont le plus besoin».
Les risques de l'IA sont nombreux
Tout comme les partisans les plus fervents de la blockchain, Guterres est également conscient des risques de centralisation.
«L'expertise en IA est concentrée entre les mains de quelques entreprises et pays», a averti le Secrétaire général des Nations Unies, ajoutant que cela pourrait entraîner des inégalités mondiales plus profondes et «transformer les fossés numériques en abîmes».
Le chef de l'ONU a également souligné les préoccupations concernant la désinformation et la manipulation de l'information, la surveillance et l'invasion de la vie privée, la fraude et d'autres violations des droits de l'homme.
Un développement majeur qui a suscité des inquiétudes concernant les risques de l'IA est l'introduction de ChatGPT, une création de la société technologique OpenAI, qui a été lancée l'année dernière.
La facilité d'utilisation de cet outil inquiète beaucoup, car il pourrait non seulement remplacer les humains dans certains secteurs, mais aussi ouvrir de nouvelles voies d'attaque telles que la création de faux communiqués de presse, d'e-mails d'hameçonnage ou d'autres attaques basées sur l'ingénierie sociale.
Un autre domaine de préoccupation est l'utilisation de deepfakes générés par l'IA pour propager la haine et la désinformation sur les médias sociaux, un problème également souligné par l'ONU dans son rapport de juin.
«Sans entrer dans une multitude de scénarios apocalyptiques, il est déjà clair que l'utilisation malveillante de l'IA pourrait saper la confiance dans les institutions, affaiblir la cohésion sociale et menacer la démocratie elle-même», a déclaré Guterres.
Le nouveau groupe de gouvernance de l'IA a donc pour objectif principal de fournir des recommandations préliminaires pour éviter ces scénarios apocalyptiques et maximiser davantage de moments de saut d'ici la fin de l'année.
Ces recommandations seront finalisées avant le Sommet de l'ONU sur l'avenir en septembre prochain.
L'ONU n'est pas seule dans la tâche de maîtriser les dangers de l'intelligence artificielle.
Pour prévenir les conséquences néfastes de l'utilisation inappropriée de ChatGPT et améliorer la sécurité et l'éthique des modèles d'IA, OpenAI a annoncé le mois dernier qu'elle créerait une «équipe rouge» d'experts dans différents domaines, notamment les sciences cognitives et informatiques, l'économie, la santé et la cybersécurité.
Édité par Liam Kelly.