L’ancien directeur général de Google, Eric Schmidt, a récemment comparé l’intelligence artificielle (IA) aux armes nucléaires. S’exprimant vendredi au Forum d’Aspen sur la sécurité, M. Schmidt a évoqué son rôle chez Google et les développements qui se produisaient il y a 20 ans.
L’ancien PDG de Google a déclaré qu’il avait lui-même été “naïf” quant au pouvoir de l’information dans les premiers jours de Google. Il a ensuite demandé que la technologie soit plus conforme à l’éthique et à la morale des personnes qu’elle sert et a fait une comparaison entre l’IA et les armes nucléaires.
M. Schmidt a imaginé un avenir proche où les États-Unis et la Chine devaient négocier un accord sur l’IA. Dans les années 50 et 60, nous avons fini par élaborer un monde où il y avait une règle “sans surprise” concernant les essais nucléaires et où ils ont finalement été interdits”, a déclaré M. Schmidt.
C’est un exemple d’équilibre de confiance, ou de manque de confiance, c’est une règle “sans surprise”. Je suis très préoccupé par le fait que la vision américaine de la Chine comme étant corrompue ou communiste ou autre, et la vision chinoise de l’Amérique comme étant défaillante… permettront aux gens de dire ‘Oh mon dieu, ils préparent quelque chose’, et ensuite de commencer une sorte d’énigme. Commencer une sorte de chose où, parce que vous vous armez ou vous vous préparez, vous déclenchez alors l’autre côté. Nous n’avons personne qui travaille là-dessus, et pourtant l’IA est si puissante”, a expliqué l’ancien PDG de Google.
Lire aussi Technique d’apprentissage automatique utilisée pour permettre à des équipes de robots de travailler ensemble et d’accomplir des tâches : Détails
En d’autres termes, M. Schmidt s’inquiète du fait qu’aucun système n’est en place pour le développement et l’utilisation de l’IA. Il craint que cela ne conduise à la possibilité très réelle d’une escalade dans l’utilisation nuisible de l’intelligence artificielle.
Notamment, les capacités de l’IA ont été précédemment énoncées à de nombreuses reprises au fil des ans. Selon le , le PDG de Tesla, Elon Musk, a déclaré qu’il était fort probable que l’IA soit une menace pour les humains. Plus récemment, Google a licencié un ingénieur logiciel qui affirmait que son intelligence artificielle était devenue consciente et sensible.
Cependant, les experts ont expliqué que la question de l’IA est de savoir dans quel but elle est entraînée et comment elle est utilisée par les humains. Cela signifie que si les algorithmes qui forment ces systèmes sont basés sur des données erronées, les résultats le reflèteront.
