Geoffrey Hinton a averti que la société aurait peut-être mieux fait de ne jamais développer l’intelligence artificielle, tout en soutenant que la technologie devrait faire l’objet de contrôles de sécurité indépendants avant que les entreprises ne mettent de nouveaux modèles en circulation.
S’adressant à The Guardian, Hinton a déclaré qu’il ne se considérait pas comme un catastrophiste de l’IA et qu’il pensait que cette technologie pouvait produire des effets positifs. Mais il a également mis en garde contre les graves conséquences possibles de son développement. « Il se pourrait que nous aurions mieux fait de ne jamais la développer », a-t-il déclaré.
Hinton a proposé la création d’un organisme de contrôle semblable à la Food and Drug Administration des États-Unis, qui réglemente les médicaments. Selon sa proposition, les entreprises spécialisées dans l’IA devraient fournir aux autorités indépendantes des preuves statistiques solides qu’un modèle fait plus de bien que de mal avant sa mise en circulation.
Il a également critiqué des dirigeants éminents du secteur technologique, notamment Mark Zuckerberg, Elon Musk et Sam Altman, en affirmant qu’il pense qu’ils comprennent les risques de l’IA, mais donnent la priorité à l’argent. Ces propos reflétaient le point de vue de Hinton et ne constituaient pas une affirmation étayée par des preuves dans l’entretien.
Hinton a précédemment distingué les risques à court terme, comme l’utilisation abusive de l’IA par des personnes, des préoccupations à plus long terme concernant des systèmes qui deviendraient très performants et n’auraient plus besoin d’intervention humaine. Lors d’une intervention distincte sur CNN, il a déclaré que l’IA pourrait constituer une véritable menace pour l’humanité si les chercheurs ne trouvaient pas de moyens de la rendre sûre.
Malgré ces mises en garde, Hinton a déclaré qu’il pensait que les humains pourraient encore être en mesure de maîtriser cette technologie, à condition de déployer des efforts considérables à cette fin.
Sources: Tom's Guide.