cd.llcitycouncil.org
Innovation

Pouvons-nous vraiment contrôler l'intelligence artificielle?

Pouvons-nous vraiment contrôler l'intelligence artificielle?



We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.


L'intelligence artificielle, selon à qui vous parlez, sera soit notre plus grande réussite, soit notre dernière grande réussite en tant qu'espèce. Cela nous libèrera totalement des tâches laborieuses ou nous asservira davantage ou nous exterminera. L'IA fournira un monde sans guerre ou deviendra la plus grande machine de guerre du monde se retournant contre ses maîtres.

Le potentiel de libération et d'amélioration de l'humanité ne peut être sous-estimé, mais les craintes sont bien fondées. Compte tenu de ce dernier, jetons un coup d'œil rapide aux préoccupations concernant l'IA. Plus important encore, l'IA peut-elle être contrôlée?

Le neuroscientifique Sam Harris a parlé de la question dans son TEDTalk. Il a noté que nous n'avons pas sérieusement considéré les problèmes associés à la création d'une intelligence surhumaine. Une telle intelligence peut bien nous regarder comme nous faisons des fourmis. Même Elon Musk de Tesla a partagé ses inquiétudes dans une interview de septembre.

Cet article est moins un guide pour le lecteur et plus une expérience de pensée. Comme le suggère Sam Harris, nous devons tous considérer cela comme une menace potentielle.

Qu'est-ce que l'intelligence?

L'intelligence est généralement définie comme la capacité de percevoir des informations et de conserver des connaissances. Ces connaissances devraient ensuite être appliquées pour améliorer le comportement futur dans un environnement ou un contexte.

Alors, pourrions-nous un jour développer l'intelligence artificielle? Les ordinateurs sont généralement très stupides mais superbes pour suivre les ordres ou les instructions - aussi imparfaits soient-ils. Pour donner de l'intelligence aux machines, il faudrait être capable de s'adapter aux définitions plutôt ésotériques de l'intelligence. Pourrions-nous même le reconnaître? Un excellent programmeur pourrait-il «tromper» ceux qui le considéraient comme intelligent?

Supposons pour l'instant que cela est possible et examinons certains des avantages potentiels et des craintes de l'IA.

https://www.ted.com/talks/sam_harris_can_we_build_ai_without_losing_control_over_it

L'intelligence artificielle pourrait-elle être formidable pour nous?

Les carrières comme la comptabilité (il existe de nombreux autres exemples) sont-elles réellement nécessaires pour que les humains travaillent? Une IA ne serait-elle pas mieux adaptée?

Les légendes de l'Oracle dans la Grèce antique pourraient-elles réellement devenir une réalité? Utiliser une intelligence super artificielle "intelligente" et omnisciente? Deviendrait-il, en fait, le «dieu» du futur? - si en fait, cela est bénéfique.

Les avantages d'une IA à mettre en œuvre sur des questions telles que l'assurance-maladie, la science et la technologie sont évidemment énormes. Pensez au développement que nous pourrions faire en quelques jours, voire des mois.

Mis à part les avantages, ces «libertés» seraient-elles éthiques? Cela provoquerait probablement un chômage de masse comme l'humanité n'a jamais connu. Les structures sociétales subiraient certainement une énorme altération. L'argent et l'économie deviendraient-ils redondants? La géopolitique serait certainement massivement influencée. Peut-être que le besoin de gouvernements et de politique serait éliminé.

[Source de l'image:Didem Durukan McFadden]

Quelles sont les craintes à ce sujet?

Nous avons tous vu la grande variété de films de science-fiction ou entendu les prédictions inquiétantes des principales autorités mondiales. Stephen Hawking et Sam Harris s'inquiètent certainement de l'IA.

La plupart des opposants à l'IA citent le danger d'une division massive du renseignement entre l'IA et nous. Un tel fossé serait atteint en très peu de temps. Les analogies courantes incluent la différence entre l'humanité et les grands singes ou les organismes inférieurs tels que les fourmis. Sam Harris et d'autres soulignent que l'IA pourrait faire de grands progrès dans la réflexion qui prendraient à l'humanité 20000 ans en peut-être une semaine. Nous ne pouvons tout simplement pas comprendre ce taux d'avancement ou même espérer comprendre ses conclusions et ses progrès.

Pouvez-vous imaginer une intelligence si grande qu'elle regarderait l'homme comme nous le faisons aux fourmis? Aurait-il de l'empathie pour une espèce si humble?

Si l'IA était si avancée intellectuellement, la moindre divergence entre ses objectifs et les nôtres pourrait être dévastatrice. Considérez une IA qui forme la conclusion d'éliminer toutes les maladies est mieux réalisée en n'ayant aucun humain pour tomber malade.

Hal 9000 [Source de l'image: Pixabay]

Pouvons-nous jamais espérer contrôler l'IA?

[Source de l'image:Pixabay]

Divers scénarios ont été proposés, mais la plupart tournent autour du codage au sein des formes de contrôle de l'IA apparentées aux idéaux humains. Cependant, pour être vraiment intelligente, l'IA aura besoin de protocoles d'auto-apprentissage en tant qu'élément fondamental de son codage.

Beaucoup craignent que cela ne permette à l'IA d'autocorriger son propre codage et de rendre ainsi redondants les contrôles qui lui sont impartis. Il peut même voir le codage créé par un intellect aussi inférieur être fondamentalement défectueux et peut-être le réécrire complètement ou l'effacer complètement. S'il manque d'empathie, il pourrait bien considérer l'humanité comme une espèce dangereuse qui doit être contrôlée ou exterminée pour son propre bien - pensez à la matrice.

D'autres méthodes de contrôle impliquent l'isolement complet d'Internet, évitant ainsi en théorie une catastrophe mondiale de type Skynet. Cela limiterait clairement son influence immédiate et son accès au savoir. Il s'appuierait alors sur «l'alimentation à la cuillère» du matériel sélectionné. Mais serait-ce éthique? Si l'IA est vraiment intelligente, aurions-nous le droit de la restreindre de cette manière? Ce sont des questions difficiles et sérieuses à considérer avant de «faire avancer» son développement. Une grande expérience de réflexion à ce sujet est le film ex-Machina.

Pouvons-nous même espérer le contenir de cette manière? Serait-il capable de persuader son geôlier de le libérer? Ou même les faire chanter? La fin de l'humanité viendrait-elle de son empathie et de sa compassion? Ce serait l'ironie ultime. Peut-être pourrions-nous lui donner des stratégies de «pot de miel» pour le contrôler au fil du temps?

Je ne peux pas les battre, rejoignez-les

C'est peut-être notre meilleur espoir pour l'avenir de devenir l'IA plutôt que de créer une intelligence existentielle ou un ensemble d'entre elles. Peut-être qu'à l'avenir, nous ne mourrons jamais vraiment. Peut-être que nos esprits seront «téléchargés» sur une grande «toile» d'esprits, rejoignant une communauté qui forme un conseil pour toute l'humanité. Les exigences techniques pour cela ne sont manifestement pas encore disponibles, mais serait-ce réellement éthique? Si nous copions nos esprits dans la grande «toile», aurions-nous alors besoin de mettre fin à notre corps physique? Les esprits copiés seraient-ils réellement capables de penser et de ressentir sans la peur de la mort que font les humains mortels? Ces esprits numériques resteraient-ils «sains d'esprit». Ou pourrions-nous conserver nos corps de chair et gagner d'une manière ou d'une autre l'intelligence surhumaine en nous-mêmes?

Il se peut qu'une combinaison de contrôles soit nécessaire par laquelle l'IA est isolée et "invoquée" à la demande, tout comme l'Oracle de la Grèce antique. Et si cet «Oracle» était, en fait, une collection de consciences décédées ayant accès à toutes les connaissances de l'humanité et ayant la capacité de s'auto-apprendre pour le bien de l'homme. La compassion pour les vivants pourrait-elle être conservée si elle les considérait comme ses enfants?

La collection des esprits ancestraux devrait-elle être maintenue «saine»? Cela nécessiterait-il un environnement de simulation de leurs vies antérieures «vivantes»? Cela nuirait peut-être à leur capacité intellectuelle.

Êtes-vous préoccupé par l'IA? Pouvez-vous penser à des moyens de le contrôler?

Image présentée avec l'aimable autorisation de Didem Durukan McFadden

VOIR AUSSI: L'intelligence artificielle doit être protégée par les droits de l'homme


Voir la vidéo: De lIA à lintelligence humaine augmentée: impact sur lentreprise du futur