Prenons un exemple simple, du moins en apparence : le célèbre problème du « voyageur de commerce ». Il consiste à calculer le meilleur itinéraire, ou le plus court, reliant plusieurs villes à partir d’une ville donnée et en y revenant à la fin. On utilise généralement un algorithme de « force brute », qui parcourt toutes les combinaisons possibles afin de trouver la solution optimale.
Pour 10 villes, on obtient 3,6 millions de trajets possibles. Imaginons maintenant que nous disposions d’une IA capable de calculer 1 milliard de trajets par seconde. Elle nous donnerait une réponse en moins d’une seconde.
Tout cela est très bien, mais si au lieu de 10 villes à visiter, nous en avons 20, le nombre de solutions possibles atteint le chiffre vertigineux de 2,4 × 10¹⁸, et il faudrait attendre près de 77 ans pour obtenir la réponse. Avec 30 villes, le chiffre devient astronomique : plus de 8,5 × 10¹² années, soit davantage que l’âge estimé de l’Univers. Pour ce type de problème, une légère augmentation de sa complexité initiale le rend pratiquement insoluble, même s’il reste théoriquement soluble.
Pour ce type de problème, une légère augmentation de sa complexité initiale le rend insoluble en pratique, même s’il reste théoriquement soluble.
L’alignement de l’IA est un autre exemple de problème difficilement traitable. C’est une autre façon d’aborder le théorème de Rice. En effet, l’alignement repose sur un ensemble d’objectifs vagues et ambigus. Nous pouvons essayer de réduire un objectif ambigu à un ensemble de valeurs fixes à atteindre. Si, par exemple, nous le réduisons à 5 valeurs, chacune comportant 10 niveaux, nous obtenons 10⁵ possibilités, soit 100 000 cas. Nous retombons dans une situation combinatoire similaire à celle de l’exemple précédent. Le nombre de paramètres augmente de manière exponentielle le nombre de cas à prendre en compte. En réalité, garantir la sécurité implique un très grand nombre de dimensions, ce qui rend impossible toute garantie à 100 %.
Il y aura toujours un compromis entre généralisation et résolution.
Si un problème comporte des objectifs vagues ou ambigus, sa solution optimale peut nécessiter un temps irréaliste. Si le problème contient également des contradictions, il devient insoluble dans de nombreux cas.
Source: Yahoo Finance – Read the original Article
À propos de l'auteur
