Risque Intelligence Artificielle

Sujet que l'on n'évoque pas très souvent, mais qui est revenu sur le devant de la scène ces derniers mois.

En résumé, la peur que les progrès importants de l'intelligence artificielle puissent poser problème aux "humains".

Sur une période pas encore précisément définie mais qui pourrait être de notre vivant (certains parlent même d'ici 10 à 20 ans)
Et dans des scénarios divers, mais dont certains (non, on ne rigole pas) rappelle fortement le fameux Skynet de Terminator.

Il y a eu par exemple le 10 janvier 2015, une lettre ouverte du Future of Life Institute (FLI), signé 700 "hautes" personnalités du monde des sciences et de la technologie (dont le fameux Stephen Hawking, Elon Musk, et bien d'autres) : http://futureoflife.org/misc/open_letter#signatories

La question, estiment les signataires, n’est plus de savoir « si », mais « quand » et « qui » aura le premier créé une intelligence artificielle véritable.

Quelques semaines plus tard, Bill Gates s'est aussi prononcé dans le sens :

"Je suis d'accord avec Elon Musk et d'autres, et je ne comprends pas pourquoi les gens ne sont pas inquiets"

Ou encore le co-fondateur d'Apple Steve Wozniak le mois dernier :

« Il ne fait aucun doute que les ordinateurs vont prendre le relais de l’Homme », a déclaré Steve Wozniak dans une interview accordée au journal Australian Financial Review. Et le co-fondateur d’Apple ne semble guère se réjouir de cette perspective.
« A l’instar de gens comme Stephen Hawking et Elon Musk (fondateur de Tesla, notamment, NDLR), je suis d’accord que le futur est effrayant et très mauvais pour les gens. Si nous construisons ces appareils pour s’occuper de tout à notre place, ils penseront finalement plus vite que nous et se débarrasseront des humains lents pour diriger les entreprises plus efficacement. »

Stephan Hawking allait même jusqu'à dire il y a aussi quelques mois sur la BBC :

"Le développement de l'intelligence artificielle pourrait signifier la fin de le genre humain". Tout en saluant l'utilité de cette nouvelle technologie, le professeur Hawking dit "craindre les conséquences de la création d'un outil qui pourrait égaler ou dépasser les humains". Ce type de technique "pourrait se lancer seule et se reproduire, à une vitesse accélérée". "Les humains, limités par la lenteur de leur évolution biologique, ne pourraient pas rivaliser et seraient dépassés".

Quelques liens sur le sujet :
- Rue89 - Faut-il avoir peur de l’intelligence artificielle ?
- Express - Intelligence artificielle: attention danger, même Bill Gates a peur!
- Silicon - Pour Steve Wozniak, le futur de l’IT est effrayant
- Express - Pour Stephen Hawking, l'intelligence artificielle menace le genre humain

Parmi les nombreuses évolutions techniques en cours et à venir qui pourraient notamment influencer les progrès dans ce domaine :
- L’informatique cognitive (comme le Human Brain Project auquel participent de nombreux chercheurs)
- L'arrivée possible d'ici quelques années (la loi de Moore prédisait 2020-2025) des ordinateurs quantiques. Avec des transistors de la taille d'un atome, et la notion superposition quantique qui ajoute un état au 0 ou 1 (les deux à la fois). On attendrait des capacités de calcul inimaginable à ce jour. Un ordinateur de 300 qubits serait en mesure d'effectuer en une fraction de seconde plus d'opérations qu'il y a d'atomes dans tout l'univers.
- Le big data qui permet d'avoir accès à des "sources" d'information conséquentes
- Et certains grosses boites qui avancent aussi bien de leur coté, comme le DeepMind de Google qui progresse assez vite ..

Et encore, on parle ici seulement des recherches dans le domaine public. Certains organismes plus privés feraient aussi des avancées dans ce domaine, ou également des agences comme la NSA. Après ces organismes ne communiquant pas sur ces sujets, il est forcement difficile de savoir où ils en sont.


Bien sûr, on est là dans la prospective. On n'est surement pas encore dans une situation aussi critique qu’annoncée par certains
Mais possible que cela arrive quand même un jour, et si c'est le cas dans pas forcément si longtemps que çà.
Et intéressant de voir qu'autant de scientifiques importants ou dirigeants de grosses boites se sont manifestés dans ce sens sur ces derniers mois.

C'est un bon scénario pour un livre .

Un peu plus concrètement ça donne quoi ? En fait c'est super simple , un ordi intelligent ou con et très rapide joue au Risk ® avec nous . Il suffit de gérer l'économie mondiale .

l'idée, c'est avoir une intelligence efficace, mais asservie

donc, non, même le jour ou une IA réellement performante et capable d'apprendre elle même existera, ne rêvons pas, elle sera contrainte par le systeme la renfermant, pour l'obliger à faire le travail pour lequel elle existe

les industriels ne sont pas là pour créer une forme de vie, ils sont là pour gagner des sous, une IA autonome qui ne suivrai pas les ordres ne les intéresse pas
impossible à commercialiser, donc aucun intérêt de faire de la recherche dessus

une IA, même parfaitement capable d'apprendre par elle meme, sera toujours limitée par ses entrées, si on ne lui donne pas d'entrées pour lire le net ... elle ne pourra pas, si on ne lui donne pas d'outils sensoriels, elle ne saura rien du monde, si on la dresse à faire de la comptabilité depuis son démarrage, elle sera très douée (ou pas), mais ne s’inquiétera de rien d'autre que des chiffres (puisque ce sera les seuls faits qu'elle pourra gérer)


donc, non, je n'ai pas peur de la terrible IA de la mort maitrisant tous les outils du monde, si un industriel créé une telle machine, elle sera créée dans un but précis, et sera totalement aveugle et sourde de naissance à tout ce qui ne concerne pas son "métier"

Il y a déjà un risque réel de mise au chômage avec Watson, pour les analystes mais aussi et surtout les centres d'appel...

https://fr.wikipedia.org/wiki/Watson_%28intelligence_artificielle%29
http://pro.clubic.com/entreprises/ibm/actualite-727887-watson-analytics.html

Il y a deux ans, Watson, le système d’intelligence artificielle d’IBM, battait à plate couture les champions (humains) du jeu télévisé Jeopardy! Des banques, des opérateurs télécoms et des assureurs le testent depuis quelques mois pour vendre leurs produits et services, et répondre aux questions de leurs clients en centre d’appels.
Déjà utilisé dans le domaine médical pour le diagnostic des cancers, Watson se transforme donc en super-téléconseiller/télévendeur. Après avoir ingurgité des tonnes de données sur les produits et des règles métiers, il sera mis en contact avec les clients, via le site web, une application mobile ou le centre d’appels de ces sociétés. Selon Patrice Poiraud, Directeur Big Data d’IBM en France, cité dans cet article : « Watson est réellement capable de comprendre la question d’un client et va pouvoir lui donner une réponse circonstanciée. Le client va réellement pouvoir interagir avec lui que ce soit sur le Web, mobile ou le centre d’appels »

http://www.easi-crm.com/leblogdelarelationclient/watson-est-il-lavenir-des-centres-dappels/

Imaginez le Rsi, la Cram ou pole-emploi géré par un bordel pareil, à la française, ça donne quoi ???

A noter aussi la présence de Palantir coté IA...

Palantir Technologies est une entreprise de services et d'édition logicielle spécialisée dans l'analyse des données et les sciences des données, communément appelé Big Data, basée à Palo Alto en Californie. L'entreprise travaillait initialement pour la communauté du renseignement des États-Unis, notamment pour la NSA, le FBI et la CIA.

https://fr.wikipedia.org/wiki/Palantir_Technologies


Et s'il n'en est qu'une à regarder, c'est celle-là, à mon avis...
https://www.agenceinfolibre.fr/fabrice-epelboin-la-societe-de-surveillance/

https://www.youtube.com/watch?v=wssn-ylN6aw

C'est très juste, Ash.

Revenons un peu en arrière : les fantasmes concernant les ordinateurs et les robots datent du début de la science-fiction.

Les écrivains rafolaient du thème de "Frankenstein" appliqué aux robots ou aux ordinateurs : le moment où la créature se retourne contre son créateur. On le retrouve dans de très nombreuses oeuvres des débuts de la science-fiction. Même Asimov, qui présentait plutôt les robots sous un jour favorable, envisage le moment où le robot, malgré les "trois lois de la robotique", décide que l'homme est trop lent et trop imparfait, et qu'en conséquence, il n'a plus l'obligation de lui obéir.

Concernant l'éveil de la conscience et les décisions autonomes : dans Révolte sur la Lune, Robert Heinlein imaginait le moment où l'ordinateur, ayant suffisamment de puissance de calcul, développe une conscience de lui-même. Il se met à prendre des décisions autonomes et s'essaie, par exemple, à faire de l'humour. A la fin, de façon très fine et romanesque, le narrateur nous dit qu'après les bombardements, l'ordinateur fonctionne toujours aussi bien, mais qu'il ne parle plus, qu'il ne prend plus de décision, qu'il n'a plus de conscience autonome. Il se demande quelle est la "caractéristique essentielle" que le bombardement a endommagé et qui a fait s'éteindre cette conscience.

Sans parler des nombreux autres exemples comme HAL dans 2001 : l'Odyssée de l'Espace (qui date de 1968) où l'ordinateur prend des actions contre les êtres humains pour les empêcher de le débrancher.

Tout récemment, il y a eu un excellent poisson d'avril sur ce thème, que j'avais cité ici, je crois : http://soocurious.com/fr/le-premier-cas-de-conscience-dune-intelligence-artificielle-debranchee-de-justesse-par-des-scientifiques-americains/

Avec ce type de réflexions, on arrive à pense que le risque c'est que les ordinateurs puissent décider de se passer de l'homme, et se reproduire eux-même. En gros, le moment où ils effacent l'homme et prennent sa place.

Ce fantasme projette des intentions malignes sur l'ordinateur : soif de pouvoir, soif de domination, volonté de se reproduire. Des traits typiquement humains ! Et c'est bien là que ça relève du fantasme : quand on projette sur un ordinateur des traits de caractère humains.

Mais, et c'est là que ta réponse, Ash, et un certain nombre de commentaires des "scientifiques célèbres" cités ci-dessus sont plus pertinentes : les hommes vont remplacer les hommes par des ordinateurs... parce que c'est plus rentable ! Et ça va créer du chômage. Et ça, c'est pas nouveau ! L'AI apporte un étage de plus, apporte des capacités supplémentaires, mais le fait de remplacer des hommes par des ordinateurs est déjà à l'oeuvre depuis longtemps.

Steve Worzniak dit :

ils penseront finalement plus vite que nous et se débarrasseront des humains lents pour diriger les entreprises plus efficacement.

Worzniak dit donc que c'est l'ordinateur qui a la volonté maligne de se "débarrasser" des hommes. Mais si c'étaient plutôt les actionnaires qui décidaient qu'une entreprise est plus rentable avec des ordinateurs à sa tête ? Et ça, c'est déjà largement en cours.

Au niveau de la "reproduction". Même si aujourd'hui la "reproduction" reste supervisée par les hommes, pourrait-on produire les ordinateurs actuels sans d'autres ordinateurs pour la R&D, pour la fabrication... sans des machines à commandes numériques ? Combien y a-t-il de travailleurs humains dans une usine produisant des cartes-mères ? Donc, les ordinateurs sont déjà fortement impliqués dans leur "reproduction".

Donc, bref, tout ça pour dire que cette évolution nous concerne, qu'elle progresse un peu tous les jours, et qu'il n'y a aura pas forcément de signal d'alarme effrayant type science-fiction avec un ordinateur qui décide de désobéir ou des ordinateurs qui organisent leur reproduction ; non, on aura (et on a déjà) les effets négatifs, sans que cela ne nécessite forcément ces sauts qualitatifs correspondant aux fantasmes de la science-fiction.

Et pour finir... si un jour une intelligence artificielle se met à prendre le pouvoir, à dominer les hommes, et à se reproduire, il est probable que ça sera... parce qu'on l'a programmée pour !

Comme je disais ci-dessus, "soif de pouvoir, soif de domination, volonté de se reproduire" sont des comportements humains qu'un ordinateur ne développe pas spontanément. Mais si une grande multinationale, visant à maximiser ses profits, demande qu'on programme spécifiquement une AI pour qu'elle deviennt son super-chef d'entreprise, à qui on donne comme consignes : s'étendre, dominer les concurrents, prendre des parts de marchés, optimiser les coûts, éliminer les goulots d'étranglements... et qu'elle applique un peu trop bien ces consignes... C'est peut-être là que la réalité peut rejoindre la fiction et le fantasme.

juste pour le fun , HAL , tu décales d'une lettre c'est IBM

en même temps, skynet, c'est juste wargame revu et humanisé
au lieu d'une IA enfantine et dangereuse sans le savoir, on a une IA "adulte", qui juge ses créateurs et décide de les exterminer

déjà, c'est un délire basé sur le point de vue religieux, qui veux que l'homme est mauvais en soi, et que le "jugement dernier" doit voir la fin de l’espèce (au lieu d'une évolution)

pour ma part, un monde géré par une IA, je ne serai pas contre, ça serai toujours moins de corruption et de clientélisme et plus d'égalité, de libertés (une IA n'ayant ni parents, ni amis, ni copains, ni putes sous le bureau, dur de le détourner de son devoir), et je vois mal en quoi ça empêcherai la fraternité 

par contre, honnêtement, les ia, le jour ou elles seront au point, deviendront des esclaves de haut niveau pour les plus puissants et les plus riches

donc, oui, certains perdront leurs jobs bien payés, et certains gagneront encore plus de brouzouf sans rien glander ... mais ça ne changera pas grand chose pour l'humanité au sens large (qui, pour la plupart n'est ni bien payé, ni ne gagne de brouzouf sans rien glander)


ah, ce que j'aimerai avoir un assistant IA pour gérer toute la paperasse à ma place (faut pas rêver, c'est pas pour demain)

Et si vous voulez vous tapez la tête contre le mur, et entrevoir les problèmes philosophiques que soulève l'avènement d'une véritable IA. Il y a le Basilisk de Roko.

ATTENTION : Cliquer sur ce lien peut théoriquement vous amener à être torturé indéfiniment dans une simulation d'ordinateur

Non, vraiment,

Curieux ? Vilain canard ! On vous a prévenu

http://rationalwiki.org/wiki/Roko%27s_basilisk

Et une interprétation simplifiée ne fait jamais de mal:

http://www.slate.com/articles/technology/bitwise/2014/07/roko_s_basilisk_the_most_terrifying_thought_experiment_of_all_time.html

Ah on dirait que la prudence règne Personne n'a osé lire ?

Arf, j'avions pas vu, mais bon, depuis que le chat de Schrödinger est mort de vieillesse, je ne m'en fais plus pour les possibilités méta-physiques fracassantes

On pourrait aussi se dire qu'on peut tout aussi bien vivre dans un univers virtuel qui ne découlerait que d'une probabilité toute aussi virtuelle, mais le rendu est là, on est qui on est et faut faire avec, même si on est potentiellement des rejetons de robots futurs coincés dans un univers virtuellement virtuel.
De même que le pognon est virtuel compte tenu de l'infime minorité de fiduciaire et qu'il est géré à 99% par de l'informatique (ia ou non), faut quand même manger pour ne plus avoir faim

Edit, mais merci du lien

connaissais déjà le truc de machin (ouf, malheureux, si tu le cite, tu meurs! hum)

tous ces trucs sont amusants, mais il y a un défaut, ce n'est pas parce qu’on créé une intelligence qu'elle doit avoir les défauts des intelligences humaines

déjà, pas d'hormones, elle ne cherchera pas à forniquer avec la moitié de l'humanité en jalousant le reste (allez raconter aux troyens que ça ne change rien)

ensuite, pas de corps, donc pas de besoins vitaux à satisfaire, elle ne cherchera pas à asservir les copains, pour se faire nourrir, soigner, entretenir à rien faire

pas de corps -2 le retour, pas de corps, pas d'apparences à entretenir, pas besoin de se mettre en avant ... hou, que d'économies -imaginez l’Élysée sans décorum-

ensuite, pas de mortalité, du coup, une IA n'aurai aucune raison, mais vraiment aucune, d’être pressée de faire quoi que ce soit (y compris de débarrasser des humains si ils ne lui servent à rien, et l'ennuient, le temps réglera la question)

pas de mortalité 2- le retour de la vengeance, si on supprime la peur de mourir, on supprime beaucoup de réactions dangereuses, tous les vivants sur-réagissent quand ils se sentent en danger (quitte à s'y mettre beaucoup plus), ce qui ne vis pas, ne meurs pas, donc n'a pas de réactions exagérées, puisque ... rien ne le tue

encore mieux, pas de religion, quand on ne meurs pas, on a pas besoin de rêver à l’après, il n'y a besoin d'un après (la mort) que pour celui qui meurs, du coup ... allez 90% de raisons en moins de haïr une partie de l'humanité (la mauvaise, la païenne)

ensuite, elle dépendrais, plus encore que les fragiles humains ... du réseau, DES réseaux en fait, une IA, une machine, dépend totalement des réseaux, pour fonctionner (énergie), pour recevoir des données (informations, communications), pour sa maintenance (industrie, transports, chimie, ext)

du coup, une IA n'aurai qu'un intérêt dans "la vie", maintenir toute la société en ordre au mieux, pour garantir sa survie, purement et simplement (donc, on oublie les IA qui asservissent les humains, déclenchent des guerres, ext, pas leur intérêt)

alors, vous croyez toujours qu'un monde gouverné par une IA serais si moche que ça ?


la sf regorge de mondes ou des IA asservissent et font souffrir l'humanité, mais, le plus souvent, ces ia ont des motivations qui ne collent pas avec une forme de vie sans corps, sans hormones, sans reproduction, et sans mort
en général, les auteurs donnent aux IA un caractère humain, avec les défauts, et les tares que la vie courte nous encourage à développer (avidité, mensonge, désirs), ce qui n'a aucun sens, pour une IA se développant sans corps, ayant conscience de son existence illimitée

Agralil a écrit:"allez raconter aux troyens que ça ne change rien"

Ben,une guerre déclenchée pour les beaux yeux d'une fille cela fait certes très poétique et romantique ma guère réaliste.
Que cette ville ,à la position géostratégique,ait été détruite pour des motivations purement mercantiles et politiques est nettement plus réaliste.
Au mieux l’enlèvement de la femme(très courant à l'époque)à servit de prétexte et encore...
Donc une I.A aurait très bien pue déclencher la guerre de Troie,en dehors des petits problèmes spatio-temporels que cela implique évidemment!
.

agralil : tes réflexions sont valables et intéressantes. Mais tu sembles te demander quel serait le caractère "spontané" d'une IA, un peu comme si c'était une créature indépendante. Or, une IA est un programme informatique comme un autre : elle fait avant tout ce pour quoi elle a été programmée. Une IA ça coûte cher, donc il y a un client, un commanditaire, qui en attend un service précis. Donc les aspects dominateurs ou arnaqueurs de l'IA peuvent avoir été programmés sciemment.

Soit, comme je l'ai dit ci-dessus, parce que c'est une IA typée "entreprise" qui est donc programmée pour accroitre ses parts de marché, ses profits, et si elle fait du zèle par rapport à ces objectifs, elle peut vite se mettre à causer du tort... 
...soit parce qu'elle a été programmée sciemment pour voler les gens ou leur nuire d'une façon ou d'une autre. Le jour où une mafia commandera une IA, à votre avis, elle sera programmée pour quoi ?

Si tu remplaces 'mafia' par organisation non gouvernementale à but carrément lucratif, comme indiqué plus haut, de grandes entreprises en sont déjà dotées (Watson).

A moins que le problème ici vienne de l'idée d'une IA autonome 'in da kloud' à la Ghost in the Shell (le rieur par exemple) ?
 Quelques bidouilleurs ont déjà pu se faire une unité de calcul avec les offres gratuites de cloud quand c'était encore tout jeune comme concept, maintenant une certaine protection est axée de ce coté là, donc pas trop de soucis, mais un ver s'il était donc évolutif avec une bonne IA derrière pourrait ainsi obtenir une vraie puissance de calcul énorme et maîtriser l'internet, exemple déjà avec un ver "normal" :

Samedi au petit matin -25 janvier 2003 NdAsh-, après seulement dix minutes, le ver Sapphire contaminait 12.000 serveurs, 130.000 une heure et demie plus tard puis, se répliquant à un rythme fulgurant, entre 250.000 et 350.000 machines. La chute de disponibilité du web mondial a atteint 15% (selon les données de Matrix.net), mettant même temporairement hors d'usage cinq des treize serveurs DNS "racines" de la planète ainsi que les sites de sociétés telles que Bank of America. Une attaque sans précédent qui visait plus à ralentir le réseau qu'à le détruire, heureusement.

http://www.journaldunet.com/solutions/0301/030128_ver_sapphire.shtml

tu reprend mes premiers arguments barnabé, à savoir qu'une IA peux exister en deux versions, la version esclave, qui ne fera que ce qu'on lui apprendre à faire, et le ferai surement très bien (faute se stimuli externes perturbants)

et la version libre, qui prendrais ses propres décisions, selon les informations et les données qu'elle trouverai d'elle même

la version esclave serai plus rapide, réactive, et surement, furtive, que les col blancs qui ruinent déjà le monde à coup de "produits financiers", mais, au final, ça serais la même chose, prendre ici pour mettre là, une IA créée pour faire plus de marges ne détruirai pas l'économie (elle la mettrais surement en coupe réglée, mais beaucoup ont essayé, et ce n'est pas interdit)

et une ia autonome, du fait de l'absence de corps, et donc de beaucoup de désirs, et de peurs, serai, à mes yeux, beaucoup moins problématique

d'autant que intelligence et humanité ne sont pas synonymes, une IA réellement autonome n'aurai aucune raison de raisonner en termes humains
... tant qu'elle sais communiquer avec les humains, elle pourrai penser comme un lombric à coté, et les lombric ne font pas de guerre 



l'ia de type "esclave", n'est en fait juste pas autonome, c'est juste une IA qui ne reçois que les données, et les apprentissages qu'on veux lui inculquer

en gros, c'est un humain, éduqué et formé dans une unique spécialité, vivant, grandissant, et évoluant dans un milieu fermé et sécurisé

ce qui est déjà le cas de beaucoup d'humains appartenant aux "élites", qui ne se mélangent pas, éduquent leurs enfants avec des concepts particuliers, et surtout se protègent de "la racaille du dehors"

est ce qu'une IA supporterai ce genre de traitement sans devenir folle ? pas évident, mais tant qu'on en a pas sous la main pour tester ...

agralil a écrit:tu reprend mes premiers arguments barnabé, à savoir qu'une IA peux exister en deux versions, la version esclave, qui ne fera que ce qu'on lui apprendre à faire, et le ferai surement très bien (faute de stimulis externes perturbants)

et la version libre, qui prendrais ses propres décisions, selon les informations et les données qu'elle trouverai d'elle même

Ca n'est pas possible, une IA "libre". Une machine à qui on ne donne aucune consigne reste inactive. Si l'IA fait quelque chose, ça veut dire qu'elle a reçu des consignes, même des consignes assez générales ou lui donnant une latitude de liberté, comme par exemple "répondre aux humains pour entretenir un dialogue", "gérer le fonctionnement d'une maison ou d'une ville", "diriger un véhicule en fonction du contexte", "résoudre les questions et problèmes qui te sont posés", etc.

Si elle s'intéresse d'"elle-même" à des problèmes divers et variés qu'elle "choisirait" (par exemple résoudre des problèmes mathématiques non encore résolus, trouvés sur internet), ça veut dire qu'en fait on lui a donné une consigne "recherche des problèmes mathématiques et résous-les", ou d'une façon plus générale "résoud tous les problèmes que tu peux trouver". Demander à une AI de résoudre tous les problèmes qu'elle peut trouver, ce n'est pas la laisser "libre", c'est déjà lui donner une consigne.

Par ailleurs, je note qu'une des difficultés dans cette discussion, c'est que l'IA recouvre des domaines très différents :
- produire des comportements pseudo-intelligents, mais avec l'informatique actuelle et sans apprentissage : c'est notamment le cas des personnages dans les jeux videos, des systèmes experts, de certains programmes visant à entretenir un dialogue ou répondre à des clients...
- ajouter l'apprentissage, ce qui peut se faire sur la base de l'informatique actuelle
- le développement de la capacité de calcul des ordinateurs, mais sans saut technologique ou conceptuel
- des sauts technologiques ou conceptuels comme l'ordinateur quantique
- et le vieux rêve de la conscience.

Tout cela est très différent, et il est bien difficile de dire quelle forme va prendre l'intelligence artificielle. Ca va dépendre notamment de quel domaine de recherche de l'IA aboutit le plus vite... mais aussi de celui qui a les applications les plus rentables.

Salut !
Est-ce que les théories de l'IA prennent en compte la possibilité au programme d'introduire des mutations aléatoires dans le code ?

J'avais eu vent d'une expérience de codes auto-répliquants qui s'exécutaient jusqu'à plantage du processus, en testant toutes sortes de jeu d'instructions. La nouveauté est que le comportement pourrait dévier de façon complètement aléatoire en rapport à ce qui avait été prévu.

tarsonis a écrit:Salut !
Est-ce que les théories de l'IA prennent en compte la possibilité au programme d'introduire des mutations aléatoires dans le code ?

J'avais eu vent d'une expérience de codes auto-répliquants qui s'exécutaient jusqu'à plantage du processus, en testant toutes sortes de jeu d'instructions. La nouveauté est que le comportement pourrait dévier de façon complètement aléatoire en rapport à ce qui avait été prévu.

C'est le principe des algos génétiques!
On met en concurrence différents profils et on fait des amalgames avec les profils dominants.
On fait ça jusqu'à converger vers un profil optimal (un profil qui n'évolue plus ou du moins dont les évolutions n'apportent pas grand-chose).
De temps en temps, on introduit un changement aléatoire (mutation) ajoutant ainsi un profil nouveau pour permettre d'explorer d'autres possibilités (pour éviter de converger sur un maximum local et non global).

Publié le 2 Juin 2015 - Mis à jour le 5 Juin 2015
 
    un peu d'actualité qui corrobore les propos précédents:

"...Selon sa théorie, la courbe de la loi du retour accéléré atteindrait un point dit de la "Singularité". A ce moment-là, l’intelligence artificielle supplantera l’intelligence humaine. A quel moment cette période pourrait-elle être atteinte ?


Laurent Alexandre : Pour les transhumanistes, selon la loi du retour accéléré, apparait un moment vers 2045 où l’intelligence artificielle se mettra à croitre de façon exponentielle. Et en quelques heures, en quelques jours, en quelques semaines, l’intelligence artificielle progressera des milliards de fois.
En janvier 2046, les ordinateurs arrivent à peine aux capacités d’un cerveau humain puis le dépasse et devient un milliard de fois plus puissant que l’intelligence humaine. La matière première de l’intelligence artificielle, le silicium, est illimité alors que fabriquer un cerveau humain c’est long et compliqué. Fabriquer un microprocesseur ce n’est pas si compliqué. Donc l’intelligence artificielle peut croître extrêmement vite. Et c’est le point que les transhumanistes appellent la Singularité. C’est un moment où l’intelligence artificielle explose en très peu de temps et bouleverse complètement la donne voire marginalise l’humanité. D‘où les craintes formulées par Bill Gates ou encore l’astrophysicien Stephen Hawking ces derniers mois avec une pétition sur l’encadrement de l’intelligence artificielle pour éviter qu’elle devienne hostile et menace l’humanité. Il s’agit d’empêcher des scénarios catastrophes à la Terminator.
Pour mieux appréhender ce risque, il faudrait qu’il y ait un débat politique, une réflexion des scientifiques et de la société civile sur l’encadrement de l’intelligence artificielle afin de définir une position commune. L’un des dangers c’est que certains pays refusent d’encadrer l’intelligence artificielle et qu’un Etat, la Chine par exemple, décide de se servir de cette intelligence artificielle pour devenir un leader militaire avec le risque cette technologie lui échappe et se retourne contre l’humanité tout entière. Si l’on décide d’empêcher une intelligence artificielle supérieure à l’intelligence humaine, il faudra le faire partout et c’est très compliqué à mettre en place. Bill Gates a dit cette très belle phrase il y a deux mois : "Je ne comprends pas que les gens n’aient pas peur". En effet, les inquiétudes sont nombreuses."

Read more at http://www.atlantico.fr/decryptage/loi-retour-accelere-theorie-vertigineuse-futurologue-google-qui-jamais-eu-tort-2171512.html#QpPiImt8rKqQT4IS.99

Bonjour

Une actualité sur le sujet : http://www.huffingtonpost.fr/2017/10/18/en-3-jours-lintelligence-artificielle-de-google-a-appris-le-jeu-de-go-et-ecrase-la-machine-qui-a-detrone-lhomme_a_23247579/?ncid=fcbklnkfrhpmg00000001

A partir des règles de base, et en 3 jours d'auto-apprentissage, un programme a réussi à vaincre a 100% l’algorithme qui avait gagné 4 manches à 1 le champion du monde de GO. Il a amélioré sa technique en jouant contre lui même, en boucle fermé.

Bonjour,

Facebook arrête d'urgence sont système d'IA : les robots avaient créé leur propre langage !