Selon une étude récente menée par…
Selon une étude récente menée par des chercheurs du MIT et de l’Université du Queensland, des experts internationaux estiment à 20 % la probabilité que les systèmes d’IA puissent acquérir des capacités d’armes dangereuses ou infliger des dégâts massifs entraînant des millions de morts au cours des cinq prochaines années.
Axios rapporte qu’une enquête approfondie auprès d’experts mondiaux a révélé d’importantes inquiétudes quant aux risques catastrophiques liés à l’intelligence artificielle qui pourraient se matérialiser d’ici 2030. La recherche, menée par le MIT IT FutureTech et l’Université du Queensland en Australie, a rassemblé les évaluations de 272 experts internationaux qui ont évalué deux douzaines de risques différents liés à l’IA en fonction de leur probabilité et de leur gravité potentielle.
Les résultats dressent un tableau qui donne à réfléchir sur les dangers potentiels associés à l’évolution rapide de la technologie de l’IA. Selon le groupe d’experts, 18 des 24 risques liés à l’IA examinés comportent une probabilité d’au moins 10 % que des conséquences catastrophiques se produisent au cours des cinq prochaines années. Cependant, cinq risques spécifiques sont apparus, avec des probabilités nettement plus élevées de causer des dommages graves.
Pour les besoins de l’étude, les chercheurs ont défini une issue catastrophique comme un événement qui entraînerait plus d’un million de morts humaines, dépasserait 100 milliards de dollars de pertes financières ou produirait des impacts intangibles à l’échelle de la civilisation. À l’aide de ces critères, les experts ont identifié les menaces les plus urgentes auxquelles la société est confrontée à mesure que les systèmes d’IA deviennent de plus en plus sophistiqués et répandus.
Le risque le plus élevé, avec une probabilité de 21,5 %, concerne les systèmes d’IA possédant des capacités dangereuses susceptibles de causer des dommages massifs. Ces capacités incluent la capacité de se livrer à des tromperies, de développer des armes, de commettre des cyberinfractions et d’opérer d’une manière qui ne correspond pas aux valeurs humaines et aux protocoles de sécurité. Cette catégorie reflète la crainte que les systèmes d’IA eux-mêmes ne deviennent des outils de destruction ou fonctionnent de manière imprévisible et nuisible.
Juste derrière, avec une probabilité de 21 %, se trouve le risque que l’IA soit délibérément utilisée à des fins malveillantes. Cela inclut l’utilisation de l’intelligence artificielle pour développer des armes telles que des agents chimiques ou biologiques, commettre des cyberattaques sophistiquées contre des infrastructures critiques ou créer des armes de destruction massive, notamment des explosifs nucléaires. Cette catégorie se concentre sur la militarisation intentionnelle de la technologie de l’IA par des acteurs humains.
Le troisième risque majeur, évalué avec une probabilité de 18 %, concerne la centralisation du pouvoir et la répartition injuste des bénéfices de l’IA. Les experts craignent que limiter le nombre d’individus ou de groupes pouvant accéder à la technologie de l’IA et en bénéficier puisse créer ou exacerber les inégalités sociétales, conduisant potentiellement à une instabilité sociale et à des conflits importants.
4) La course à l’IA entre entreprises et pays
La dynamique concurrentielle dans le secteur de l’IA représente le quatrième risque critique, avec une probabilité de 16,6 % d’issues catastrophiques. La course entre les entreprises et les nations pour lancer les modèles d’IA les plus avancés pourrait entraîner le déploiement de systèmes insuffisamment testés et sujets aux erreurs avant que des mesures de sécurité appropriées ne soient mises en œuvre. Cette ruée vers le marché pourrait sacrifier la sécurité au profit d’un avantage concurrentiel.
Le cinquième risque important, avec une probabilité de 12,8 pour cent, concerne la création et la diffusion d’informations fausses ou trompeuses. La désinformation ou les erreurs générées par l’IA pourraient conduire à des croyances inexactes généralisées au sein de la population, amenant les humains à prendre de mauvaises décisions basées sur de fausses informations. Cela pourrait avoir des effets en cascade dans toute la société, depuis les élections jusqu’aux réponses de santé publique.
[…] La suite de l’article est à lire sur Breitbart via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : Breitbart — Lire l’article original
À propos de l'auteur
