Physicien reconnu pour ses nombreux travaux et pour ses talents de vulgarisateur, Stephen Hawking a longtemps mis en garde contre les dangers de l'intelligence artificielle pour l'avenir de l'humanité. Mais pourquoi, au juste ?

Des IA dangereuses pour l'avenir de l'humanité.

Stephen Hawking (1942-2018) était un physicien, théoricien et cosmologiste britannique de renom. Notamment connu pour son travail sur les trous noirs, il était surtout réputé pour être un vulgarisateur hors-pair. On lui doit notamment le livre Une brève histoire du temps (1988), vendu à plus de 10 millions d'exemplaires. Alors quand un homme de sciences tel que lui se prononce sur un sujet aussi vaste et complexe que l'intelligence artificielle, sa parole a forcément du poids.

C'est donc avec inquiétude que nous sommes nombreux à avoir accueilli ses multiples mises en garde contre le développement massif des IA. L'une de ses interventions les plus connues à ce sujet remonte à 2014, lors d'une interview accordé à la BBC. Il avait alors déclaré que "le développement d'une intelligence artificielle complète pourrait sonner le glas de la race humaine". Reste à définir ce que l'expression "intelligence artificielle complète" signifie. Quoi qu'il en soit, il craignait qu'une IA assez puissante pour se "redéfinir" d'elle-même et s'améliorer "toujours plus rapidement" voit le jour. "Les humains, qui sont limités par une évolution biologique lente, ne pourraient pas rivaliser et seraient supplantés."

Des propos nuancés par Stephen Hawking (IA sur lui même + "grand évènement").

Quelques mois après sa déclaration choque, Stephen Hawking avait continué sa croisade contre les IA en signant une lettre ouverte contre les "robots tueurs", aux côtés de nombreux autres chercheurs et scientifiques craignant une course à l'armement reposant sur des intelligence artificielles, capables de "combattre des cibles sans intervention humaine". Malgré cela, il a régulièrement nuancé ses propos en rappelant que si "l'IA pourrait être le pire événement de l'histoire de notre civilisation", elle est également d'une aide précieuse et porteuse d'espoir. C'est ce qu'il a notamment rappelé lors d'une conférence tenue en 2017.

Le succès dans la création d'une IA efficace pourrait être le plus grand événement de l'histoire de notre civilisation. Ou le pire. Nous ne savons tout simplement pas. Nous ne pouvons donc pas savoir si nous serons infiniment aidés par l'IA, ou ignorés par elle et mis à l'écart, voire éventuellement détruits par elle. Si nous n'apprenons pas à nous préparer et à éviter les risques potentiels, l'IA pourrait être le pire événement de l'histoire de notre civilisation.

Mais je suis un optimiste et je crois que nous pouvons utiliser les IA pour le bien du monde. [Je crois] qu'elle peuvent travailler en harmonie avec nous. “Je suis un optimiste et je crois que nous pouvons créer l'IA pour le bien du monde. Qu'il puisse travailler en harmonie avec nous. Nous devons simplement être conscients des dangers, les identifier, utiliser les meilleures pratiques et gestions possibles et nous préparer à ses conséquences bien à l'avance.

Enfin, rappelons que Stephen Hawking lui-même est parvenu à continuer de vivre et de communiquer, malgré sa maladie de Charcot, en grande partie grâce à l'intelligence artificielle. Incapable de parler normalement, il s'est reposé sur une technologie de génération de voix synthétique appelée "Equalizer", lui permettant de se faire comprendre et même de donner des conférences ! Les IA peuvent donc bel et bien s'avérer bénéfiques pour les humains.