Le rêve technologique d’une « intelligence artificielle générale » est considéré par certains comme un élément qui marquerait un grand changement dans le développement économique. Cependant, il pourrait également constituer une menace existentielle pour l’humanité – un défi connu sous le nom de problème de « contrôle ». Les auteurs de cet article soutiennent qu’il est par conséquent essentiel d’examiner minutieusement toutes les répercussions sur les politiques publiques.
Le monde a fait d’impressionnants progrès dans le domaine du développement économique et l’on est optimiste que la marche du progrès se poursuivra. Steven Pinker analyse un large éventail de mesures prises pour illustrer ces avancées. Steven Radelet lui fait écho, en nous rappelant que « la pauvreté recule plus rapidement aujourd’hui qu’à n’importe quelle autre période de l’histoire de l’humanité ». D’après Nick Bostrom, si les taux de croissance économique enregistrés au cours des 50 dernières années sont maintenus, le monde sera 34 fois plus riche qu’aujourd’hui en 2100.
Il est admis que sans innovation technologique, ces avancées dans le développement économique n’auraient pas été possibles. Les pays et les régions qui n’ont pas suffisamment utilisé la technologie ont tendance à accuser un retard. Diego Comin et ses co-auteurs constatent « qu’aujourd’hui, la différence de 78 % dans les revenus entre l’Afrique et l’Europe occidentale peut s’expliquer par les écarts en matière de technologie qui existaient déjà en 1500 apr. J.-C. ».
Joel Mokyr et Matt Ridley estiment que les progrès technologiques se poursuivront. Selon Ridley, « le rythme d’innovation devrait s’accélérer, et l’évolution économique relèvera de façon extraordinaire le niveau de vie des personnes au 21e siècle, aidant même les populations les plus démunies du monde à satisfaire leurs désirs et leurs besoins ».
Au cours de ces dernières années, en particulier depuis 2007, nous avons noté la résurgence de « l’optimisme technologique » due à l’émergence de nouvelles technologies telles que les plateformes numériques, « l’Internet des objets », la nanotechnologie, le génie génétique, les matériaux intelligents et, plus important peut-être, l’intelligence artificielle (IA). Comme l’explique l’ouvrage New Scientist, l’IA renvoie aux « machines qui agissent de façon intelligente…lorsqu’une machine peut prendre la bonne décision, dans des circonstances incertaines, elle peut être considérée comme intelligente ».
Des progrès rapides ont été enregistrés dans le domaine de l’IA du fait de l’augmentation exceptionnelle de la puissance informatique, la disponibilité de grandes bases de données (big data), l’informatique en nuage (cloud computing) et le développement des algorithmes d’apprentissage automatique.
Les entreprises de plateformes numériques, notamment Apple, Amazon, Facebook et Google – qui s’appuient sur l’IA, et innovent et investissent énormément dans le domaine – sont devenues les entreprises les plus prospères dans le monde. Pour PwC, les applications d’IA augmenteront de 14 % le PIB mondial à l’horizon 2030 – soit un montant total de 15,7 trillions de dollars américains.
Mais ces applications ne sont pas encore très intelligentes, et sont loin de l’intelligence humaine. Par conséquent, toutes les IA qui existent sont souvent considérées comme des IA « restreintes » par rapport au rêve encore lointain de « l’intelligence artificielle générale » (IAG), qui sera une véritable super intelligence.
Bien que l’IA restreinte puisse offrir de nombreux avantages pour le développement économique (comme indiqué lors de la récente Conférence de la Banque mondiale sur « l’Intelligence artificielle au service du développement »), c’est l’invention potentielle d’une IAG qui est considérée par certains comme un élément essentiel pour la transformation future du développement économique.
Le point où l’IAG dépassera l’intelligence humaine est désigné par Raymond Kurzweil par le terme « singularité ». Certains économistes, comme William Nordhaus, pensent qu’après ce point, « la croissance économique s’accélèrera nettement à mesure que l’économie témoignera d’un rythme d’améliorations sans cesse croissant ».
Cependant, il existe une mise en garde majeure. Quel que soit l’entreprise high-tech ou le laboratoire public qui réussira à inventer la première IAG, il obtiendra une technologie dominante à l’échelle mondiale. Ce prix qui souscrit potentiellement au principe du « gagnant emporte tout » fait surgir le spectre d’une course concurrentielle (aux armements) pour une IAG.
Le problème est que cette course pourrait résulter en une IAG de mauvaise qualité ou peu amicale, qui ne s’harmonise pas avec le bien-être humain– un problème connu dans le domaine de l’IA sous le nom de « contrôle » ou de « problème d’alignement ». Une telle IAG pourrait détruire l’humanité, elle pourrait être mal utilisée par des terroristes ou des dictateurs ou alors profiter uniquement aux élites.
L’optimisme concernant la marche du développement économique pourrait être amoindri par la même capacité – l’innovation technologique – qui l’a suscité au départ.
Afin de mieux examiner le problème de contrôle, nous avons développé un modèle d’une course à l’armement en IAG fondé sur une « compétition ».
Notre analyse a permis d’obtenir les résultats suivants : premièrement, dans une course où le vainqueur rafle tout, où les concurrents doivent investir dans la recherche et le développement (R&D), seules les équipes compétitives participeront. Par conséquent, compte tenu de la difficulté de l’IAG, le nombre d’équipes en compétition est peu susceptible de demeurer très élevé – une conclusion positive étant donné que plus le nombre d’équipes augmente, plus le problème de contrôle devient difficile.
Deuxièmement, l’intention des équipes en compétition dans une course pour l’IAG, ainsi que la possibilité d’un prix intermédiaire sont importantes. Ce dernier offrira des incitations pour l’investissement dans la recherche et le développement et par conséquent la qualité de l’IAG, mais il accroîtra également la probabilité qu’une IAG soit inventée – et ainsi rendra le contrôle public encore plus urgent.
Nous recommandons que les gouvernements utilisent l’impôt sur l’IA et les marchés publics. Le rôle de la passation des marchés publics dans le domaine de l’innovation par les principaux pouvoirs adjudicateurs centraux, notamment l’Union européenne et les agences gouvernementales des États-Unis, pourrait être utilisé pour :
- promouvoir la coordination, la coopération et la transparence dans le développement de l’IA ;
- contribuer à financer les coûts irrécupérables élevés de la recherche et du développement pour une IA amicale ;
- promouvoir la connaissance sur l’IA auprès du public ; et
- garantir l’accès aux connaissances et aux outils d’IA et leur dissémination, y compris leur compréhension par le public.
Alors qu’il existe une littérature abondante sur les outils et les techniques qui rendent possible l’IA, ou encore sur l’impact potentiel de ces outils et techniques sur le développement, il existe beaucoup moins d’écrits sur les instruments de politique publique qui permettraient d’orienter le développement de l’IA au profit du développement économique. Notre travail permet de commencer à combler ce vide.
