Singularité ?

Ce billet, pour une fois, ne parlera pas du tout de politique, ni, d’ailleurs de libéralimse, de fachimse, de cyclimse ou de bisounours zombies partouzeurs. Pour changer, il parlera un peu de singularité technologique, de Raymond Kurzweil, d’IBM et de robotique…

En substance, et pour vous épargner la lecture attentive des liens déjà fournis – que je vous recommande tout de même, si le sujet vous intéresse – l’idée de Raymond Kurzweil, un informaticien américain de génie spécialisé dans l’intelligence artificielle et l’OCR, est que, compte-tenu de l’évolution des techniques de traitement de l’information, on va bientôt arriver à un moment clef de basculement pour l’humanité, moment qui verra émerger une véritable « intelligence » de la part des machines.

Au-delà de ce point, l’évolution de l’Humanité n’aura plus grand-chose à voir avec sa partie strictement biologique ou sociale qu’on observe actuellement.

On peut, au choix, voir cette singularité comme une catastrophe ou une chance : il s’agira bien pour l’humanité de la disparition d’un monde simple et connu, ancestral et encore pas trop compliqué à comprendre pour le quidam moyen, et l’apparition parallèle d’un univers riche de possibilités mettant à portée de la main des opportunités bouleversantes. Mais que cette singularité soit une chance ou une calamité, ici, peu importe puisque, dans les suppositions de Kurzweil (et d’autres qui partagent son opinion), elle arrivera de toute façon, quoiqu’on fasse.

Et c’est donc dans cette perspective que je voudrai livrer quelques éléments de réflexion qui permettent d’apprécier un peu mieux à quel point la singularité est proche.

Il faut bien comprendre qu’en réalité, la singularité sera très rapide à l’échelle des temps historiques, mais ne correspondra probablement pas à une journée ou une année précise : des centaines d’éléments avant-coureurs vont s’amonceler pour que le basculement d’une ère sans intelligence artificielle à une ère où celle-ci est présente partout se fasse presque sans qu’on s’en rende compte.

Or, c’est ce que nous vivons, pratiquement, depuis le milieu du XXème siècle.

Ainsi, au cours des 20 dernières années, la quantité d’information disponible pour un humain n’a pas arrêté d’augmenter ; le saut est d’autant plus important qu’on regarde des populations pauvres : s’il a fallu une centaine d’années pour faire un maillage décent du téléphone en Europe, il n’aura fallu qu’une dizaine d’années pour obtenir le même maillage en Chine ou en Afrique via l’utilisation de techniques adaptées au milieu (cellulaire). De la même façon, l’accès à la télévision, à la radio est devenu de plus en plus banal, même dans les endroits les plus reculés du monde.

Les esprits chagrins auront bien évidemment beau jeu de montrer les places où ces technologies sont encore rare, mais si l’on compare avec la situation d’il y a seulement 50 ans, le constat est sans appel : la production et la consommation d’information n’a pas cessé d’augmenter sur toute la planète, de plus en plus vite.

Or, l’information est l’élément essentiel pour que l’individu s’émancipe de ses conditions matérielles. Cette information peut recouvrir l’instruction, mais aussi, de façon plus générale, tous les savoirs utiles, voire indispensables, que l’humanité a acquis et acquiert encore dans sa lutte permanente pour survivre. Dans bien des cas, disposer d’une information aussi simple qu’un bon diagnostic, un traitement idoine ou comportement adapté est littéralement une matière de vie ou de mort ; en réalité, l’information passe très souvent bien avant toute autre forme de richesse.

On comprend dès lors pourquoi, de façon certes désordonnée mais constante, l’humanité a progressé tant sur la voie de la production raisonnée d’informations toujours plus pointues et précises dans tous les domaines, que sur la voie de la consommation de ces informations par le plus grand nombre. Le succès des téléphones portables – dont le coeur de calcul est plus puissant que les Pentium de 1993 – s’explique très bien dans ce contexte.

En pratique, un occidental moyen ne passe plus guère une seule journée sans avoir eu, près de lui, à au moins un moment donné, un ou deux processeur de calcul dont la puissance augmente très régulièrement. L’intelligence, très basique, des outils qui nous entourent, devient en réalité de moins en moins basique, et ce, sans que personne ni ne s’émeuve, ni même ne le remarque (et je ne citerai que quelques exemple comme Google Translate, les GPS, la reconnaissance ou dictée vocale, le guidage aérien, les outils de diagnostics et d’imageries médicaux, les procédés divers de tracking, toutes les couches d’internet, etc…)

Et partant de cette constatation, les recherches incessantes en matière de robotique donnent une bonne idée de ce qu’on est capable de réaliser à présent, choses qui étaient rigoureusement impensable il y a une petite vingtaine d’années :

Evidemment, voir un petit robot autonome trottiner péniblement sur un tas de caillou, ce n’est pas forcément ce qu’on imagine comme étant une avancée majeure. On prendra la mesure de cet achèvement en notant qu’il y a vingt ans, ceci était considéré comme de la science-fiction irréalisable avant un demi-siècle.

Mais là où les avancées sont les plus spectaculaires sont dans le traitement parallèle et statistique de l’information. Google a fait fortune sur le changement monumental de paradigme qui s’est opéré ces dix dernières années, mais il n’est pas le seul à avoir effectué des recherches dans ce domaine.

IBM présente ainsi sa dernière réalisation en matière de super-ordinateur, qui, cette fois, ne se contente pas de déplacer intelligemment quelques pièces sur un échiquier, mais est capable de répondre à des questions posées en langage humain et d’y répondre de façon suffisamment satisfaisante pour être honorablement comparé à un humain.

Nous sommes à l’orée d’une nouvelle ère.

Les changements profonds que ces technologies vont introduire dans la société seront inévitables : comme le remarque Kurzweil, ni la crise de 1873, ni la Grande Dépression de 1929, ni celle des années 70 ou 1980, ni celle que nous subissons actuellement n’ont ralenti le rythme auquel les traitements de l’information ont évolué, dans une jolie courbe exponentielle.

Pour le meilleur ou pour le pire, soyez préparés 🙂 !

—-

Et je m’en voudrai de ne pas linker le blog d’Aymeric Pontier qui me lit régulièrement et qui est un aficionado du sujet.

J'accepte les Bitcoins !

133PgGfqZbopTRTu4ueJtJs7aW1ptgmBZN

Vous aussi, foutez Draghi et Yellen dehors, terrorisez l’État et les banques centrales en utilisant Bitcoin, en le promouvant et pourquoi pas, en faisant un don avec !

Commentaires72

  1. Higgins

    Je pense qu’il faut saisir la Halde rapidement (où d’ailleurs les augmentations vont bon train) pour empêcher une future et épouvantable discrimination. A moins que nos modernes Laval, si prompts à légiférer sut tout et n’importe quoi, ne décrètent que le pays phare de la pensée mondiale se tiendra à l’écart de ce mouvement pour ne pas perturber plus en avant ses citoyens qui ont tant de mal à appréhender le monde moderne.

  2. Aymeric Pontier

    Très très bon billet Hashtable ! 🙂

    Pour continuer sur les prévisions du « technoprophète », comme la presse aime bien l’appeler…
    La première forme d’intelligence artificielle capable d’égaler les performances d’un être humain moyen devrait voir le jour au cours de cette décennie. Peut-être même avant 2015.
    Puis les choses vont s’accélérer, car ces nouvelles formes d’intelligence participeront à la conception et à la création des suivantes, et donc la première intelligence artificielle plus intelligente que l’ensemble des êtres humains réunis pourrait arriver d’ici 2030.
    Enfin, d’ici 2050, avec l’inévitable réduction des coûts et tous les autres bouleversements associés, la fabrication de ces intelligences artificielles de seconde génération devraient coûter moins de 1000 dollars et ne prendre que quelques heures voire moins…

    Histoire d’ouvrir sur un autre sujet, il serait bon de s’interroger sur les conséquences. Et pourquoi pas les conséquences sur le libéralisme.
    Avec l’arrivée massive de ces intelligences artificielles sur le marché du travail, remplaçant non plus seulement les ouvriers, mais aussi les cadres et tous les employés dits « qualifiés » car en capacité de le faire. Des travailleuses acharnées qui ne mangent pas, qui ne dorment pas, qui ne partent pas en vacances, qui ne tombent jamais malades, et qui ne font pas grève. Qui ont juste besoin d’énergie et de maintenance, c’est tout. Mieux : qui n’ont pas besoin d’être payées. L’on risque d’assister à une destruction massive et méthodique des emplois « humains ».
    Que va-t-il se passer pour les dix milliards d’êtres humains, devenus « inférieurs » ? Et qui seront dans l’incapacité de pouvoir subvenir à leurs besoins par eux-mêmes car exclus du marché du travail ?
    Dans ce nouveau monde, de nombreuses théories libérales vont s’écrouler, il serait temps qu’un penseur libéral se penche sur ces questions, non ? 🙂

    1. Ces questions méritent plus qu’un commentaire, mais je peux te donner une piste de réflexion : les fourmis ne s’occupent pas des hommes. Les hommes ne s’occupent pas des fourmis.

    2. Mateo

      Réflexion de 2 minutes: toute richesse provient du travail, même les matières premières. En supposant que ces machines soient un jour capables d’effectuer TOUT ce que l’homme peut faire (seront-elles capables de créativité? J’en doute à court ou moyen terme), cela reviendrait à dire que toute richesse deviendrait gratuite pour l’homme.

      Dès lors, le travail pour l’Homme deviendrait inutile et aurait accès toutes les richesses qu’il veut sans avoir besoin de fournir le moindre effort.
      Ce qui poserait un énorme problème de « tragédie des biens communs »…

      Tout cela me parait bien peu réaliste…

    3. Jesrad

      Les IAs ne remplacent pas les hommes dans leurs tâches, elles complètent leurs capacités pour leur permettre d’en assumer et réaliser beaucoup plus, beaucoup plus vite pour le même niveau d’effort et de concentration.

      1. Mateo

        Donc c’est bien ce que je pensais: elle ne peuvent être douées de créativité. Donc pas de soucis à se faire, il ne s’agit que d’un pas de plus dans ce le chemin que nous avons pris depuis l’invention du premier outil.

  3. Silent bob

    Azimov ou es-tu??

    la véritable question est: seront-nous capables de vivre hors de notre enveloppe corporelle et vivre à jamais dans une machine? Deviendrons-nous des dark vador (Person on me file sabre laser, rien que pour ça je signe!)

  4. Mr T

    En ce qui concerne la question de savoir si les révolutions technologiques seront une chance ou une malédiction, ou un certain dosage des deux… je pense que ça dépendra avant tout du contexte politique, et je crains malheureusement que l’étatisme poursuive sa montée en puissance dans les prochaines années.

  5. Kassad

    Je suis très sceptique concernant les prévisions de cette « singularité ». Il y a des raisons de penser (les résultats de calculabilité notamment) que l’ordinateur n’atteindra jamais cette singularité : ce n’est pas un problème de moyen mais de nature.

    Enfin, il ne faut pas confondre l’utilisation, l’enregistrement et la diffusion de l’information avec … sa création. Typiquement dans la fin de ton billet tu parles d’un ordinateur qui répond de manière plus ou moins correcte à des questions mais le challenge n’est pas là, il est plutôt de produire des questions qui sont intéressantes (la production de questions valables est au moins aussi important que d’y apporter des réponses : car qu’est ce que la création d’une théorie mathématique sinon cela ?).

    1. Concernant la création, tout à fait : la création d’information est encore embryonnaire chez les machines. Mais il existe déjà des programmes qui composent de la musique (suffisamment bonne pour bluffer des compositeurs pros), ou des peintures. Petit à petit, l’écart se comble.

      Pour ce qui est du problème de nature, on entre ici dans un champ quasi-philosophique. On peut, par exemple, tenir le même discours que celui de Penrose. Là encore, je n’ai pas d’avis, mais je constate que l’écart à l’homme s’amenuise.

  6. Yul

    lorsque les anti-ogm, devenus anti-nanotechnologie depuis qu’ils ont réussi à bannir les ogms, se rendront compte de cette avancée, ils feront tout pour l’interdire.

  7. Vlad

    Bah y’aura toujours du boulot pour nous les humains :
    Il restera des domaines de prédilection tout simplement irréalisables par des formes d’intelligences y compris artificielles.
    Le foot, les politiques, les émissions de télé-réalité, les rappeurs…

    1. yoook

      Hum.
      Les robots seront bien plus doués que nous au foot.
      On comprendra rapidement qu’un robot sera meilleur décisionnaire qu’un politique…

      Il nous restera la téléréalité et les rappeurs. Voyant cela, les robots auront la bonté de nous achever.

  8. Stéphane

    Ces perspectives sur les robots sont fascinantes mais quand je lis « toute richesse deviendrait gratuite pour l’homme » ou que je vois des films mettant en scène des armées de robots au service d’une aristocratie humaine vivant selon son bon plaisir, je crois que les gens oublient quelque chose que je qualifierais de « second principe de la thermodynamique appliqué aux robots », à savoir que l’entropie est toujours croissante et que le mouvement perpétuel n’existe pas.

    En d’autres termes, il sera – à toutes les époques – impossible d’obtenir, à travers le travail des robots, un gain très supérieur à ce que coûte le robot (immobilisation de capital, maintenance, énergie). Un gain marginal sera possible, correspondant à un rendement sur l’immobilisation de capital que représente l’investissement sur le robot, mais il ne faudra pas en attendre la lune. D’une part, parce que si c’était le cas, la concurrence aurait tôt fait de se lancer à l’assaut du même créneau, affaiblissant le rendement, et d’autre part, parce que les robots s’useront et deviendront obsolète très vite (regardez les téléphones portables aujourd’hui…)

    Je doute fort que les fraises soient un jour ramassées par des robots humanoides et que ce soit plus rentable que la main d’oeuvre marocaine. Pour longtemps, les robots humanoides resteront un luxe coûteux et n’auront guère d’utilité économique.

    A titre de parenthèse, l’anthropomorphisme des robots de science-fiction, concevable dans une optique de relations humaines, est totalement à contre-courant de l’efficacité productive où seule la tâche à accomplir compte. On ne cherche pas à faire ressembler à des humains les robots qui assemblent des voitures, cela n’aurait aucun sens. Les robots « performants » risquent donc d’être très spécialisés et donc particulièrement stupides hors de leur domaine d’activité. L’ordinateur du Jeopardy Challenge d’IBM est peut-être doué dans ce jeu télévisé, mais il est incapable de jouer aux échecs!

    Un robot destiné à ressembler à un humain pourrait donc avoir une très grande expressivité, mais très peu d’efficacité pratique (à quoi servent 120 expressions de visage pour faire le ménage?)

    Finalement, ces perspectives risquent de prendre encore un siècle ou deux, au moins, avant de se concrétiser. Je pense que ce n’est pas une question de technologie de pointe, mais plutôt de la vitesse de propagation de la technologie dans notre environnement. Dès qu’on sort du confort de nos centre-villes occidentaux, on voit le chemin qui reste à faire.

    1. Mateo

      « quand je lis « toute richesse deviendrait gratuite pour l’homme »  »

      J’ai bien précisé que cela me paraissait bien peu réaliste… (d’autre part, j’évoquais l’hypothèse peu probable où les robots seraient doués de créativité et donc capables de concevoir d’autres robots par exemple).

      1. Mr T

        Quand on voit la video du LittleDog Robot on se dit qu’on est pas loin de pouvoir produire en masse des bestioles comme celle là équipées de fusil mitrailleurs ou autres, capables de découper de l’humain par centaines avec une efficacité létale et de façon quasi autonome. C’est plus ce genre de perspectives qui me fait froid dans le dos. Vous me direz on a déjà les drones aériens mais ils nécessitent encore un opérateur à distance.

  9. Flo

    Quand j’étais gosse dans les années 70 les revues de vulgarisation scientifique montraient qu’en 2000 nous aurions des voitures volantes.
    Pour différentes raisons pas essentiellemnt technologiques nous ne sommes pas près de voir ça

  10. JB7756

    Tient un blog francophone qui parle de la Singularité Technologique ! (c’est rare)

    Alors oui la robotisation remplacera la totalité du travail humain et à moindre coût.

    Le cerveau humain est une machine et il n’y a rien de connu qui n’interdise de le reproduire artificiellement et sans ses défauts les plus criants : lenteur d’apprentissage, impossibilité de transfert direct de l’information (on en peut pas apprendre en « téléchargeant » les connaissances de son voisin).

    Aujourd’hui, en 2010, les plus puissants ordinateurs atteignent un niveau de complexité proche du cerveau humain. En 2000 il était 1000 fois inférieur et en 2020 ils seront 1000 fois supérieur (Loi de Moore). En 2030 un simple téléphone portable sera aussi intelligent que son propriétaire pour un prix dérisoire. Plusieurs sociétés dont celle ci, http://www.smartaction.com/http://www.manhattanbeachproject.com/Bio/Peter-Voss.htm , se sont lancée de la création d’IA de niveau humain qui devient maintenant possible (avant les ordinateurs n’étaient pas assez puissant).

    De plus les machines seront gratuites car conçues et construites par des machines, tout comme les fruits qui poussent sur un arbre sauvage sont gratuits (aucun travail humain dedans). Les seules limites seront les ressources naturelles. Il faudra donc mettre en place un système de partage des richesses.

    Vers 2020/2030 on sera en fait tous au chômage ou plutôt en retraite (en plus d’avoir une longévité très augmentée). Mais rapidement on deviendra très inférieur à nos machines qui évolueront d’une façon exponentielle. On deviendra en quelques sortes les animaux de compagnies des machines ce qui comporte un risque.
    Pour Kurzweil, la solution pour éviter cela est devenir nous mêmes des machines en téléchargeant nos esprits dans des ordinateurs. Mais de fait on ne sera plus guère « humain ».

    1. Je crois surtout que l’avenir et la vie sont beaucoup plus inventifs que tout ce qu’on peut imaginer.

      De même qu’il est inutile et ridicule de voir dans cette singularité une catastrophe insurmontable, il est aussi naïf d’imaginer qu’elle sera exclusivement positive. Ne pouvant trancher, il me paraît sain de simplement s’y préparer, au moins psychologiquement…

      1. JB7756

        La Singularité introduit un élément très important, celui d’un destin évolutif irrésistible.

        Depuis la formation de la Terre, il suit une belle courbe strictement exponentielle avec des changements de paradigmes : « vie » chimique basique, vie basée sur l’ADN (bactéries puis animaux pluricellulaires), vie basée sur le système nerveux (nous), vie « robotique » (prochaine étape).

        Bien sûr chaque étape n’a pas totalement effacée la précédente et il se balade toujours des animaux primitifs comme des méduses. Mais beaucoup d’autres espèces ont disparues. Il y aura une place pour l’humanité si l’évolution le permet, sinon on sera rayé de la carte sans aucune pitié…

        Il ne faut pas se faire d’illusion, l’Homme n’est qu’une étape et pas la finalité de la Création.

        1. JB7756

          @Joe

          « La différence fondamentale, c’est que les méduses n’ont pas créé les hommes alors que l’homme créé les robots »

          Et non ! Les méduses ont bien créé l’Homme.

          Enfin pour être plus précis à un moment une espèce vivante (sorte de vers marin – on sait pas très bien) s’est transformée en deux branches : l’une est devenue méduse, l’autre poisson, puis lézard, puis rat, puis singe, puis Homme (c’est très simplifié mais c’est ça)

        2. Bernard

          Il n’y a aucune raison pour que l’Homme accepte de se laisser remplacer par les machines, ou de devenir leur caniche, sans rien faire. Si l’homme est capable de créer ces IAs, pourquoi ne serait-il pas capable d’inventer un moyen pour les cantonner à certains rôles choisis?

        3. Mr T

          Et comment les machines pourraient-elles remplacer toutes les activités intellectuelles et surtout la créativité, la conception, l’innovation ? Comment une machine serait-elle en mesure de connaître les désirs de millions d’êtres humains et de prévoir ce que seront ces désirs demain, d’anticiper des innovations technologiques ?

          Bref à trop donner dans l’ésotérisme on a peut être un peu trop tendance à oublier de se poser des questions plus terre à terre. Intuitivement pour moi comparer l’intelligence d’une machine et d’un humain en terme de puissance de calcul et s’en servir pour tirer des conclusions qui partent dans toutes les directions ça n’a pas trop de sens.

        4. JB7756

          @Bernard
          Ce qui peut arriver, c’est que nous ne comprendrons plus ce que les machines feront / diront. Comme une fourmi qui ne comprendra jamais les concepts et les idées des humains.

          Plus près de nous, avez vous déjà essayé de comprendre les mathématiques et la physique de très haut niveau ? C’est simple, c’est du chinois pour qui n’a pas un doctorat de math.

          @Mr T
          Avoir la preuve que l’on peut faire ou non une IA qui égale l’Homme dans tous les domaines est difficile. On l’aura uniquement quand ce sera fait. Mais le progrès actuels sont rapides et il y a des tas d’autres exemples (liens sur demandes). Après tout notre cerveau n’est qu’un gros amas de neurones. Il n’y a rien de mystérieux la dedans, c’est juste complexe.

          Quant à savoir quel sont les besoins des humains, rien de plus facile : le marché. Des firmes automatisées concurrentes proposeront des produits qu’achèteront ou non les consommateurs humains. C’est l’équivalent de la sélection naturelle.

      2. Aymeric Pontier

        Parfaitement, à chaque fois que j’écris un billet sur le sujet, c’est ce que je dis toujours : se préparer.

        Ne surtout pas faire comme ces écolos hystériques qui se réveillent un jour au début des années 2000 avec un champ OGM à côté de leur jardin ou des nanoparticules dans leurs produits de consommation et deviennent complétement frapadingues, alors même que ça faisait plus de 20 ans que ces technologies étaient développées dans les labos. C’est trop facile d’hurler sur les apprentis-sorciers quand on ne prend même pas la peine de s’interresser à ce qui se passe autour de soi !

        La robotique et les intelligences artificielles feront partie des bouleversements attendus du 21ème siècle certes. Mais il y aura aussi la biologie de synthèse et la création de nouvelles espèces vivantes, la cognotion et la prise de contrôle possible des cerveaux à distance, la privatisation de l’accès à l’espace et le début de la colonisation du système solaire, etc etc…

        On va bien s’amuser quoi ! Mais comme m’a dit un pote libéral un jour : le problème de la Singularité, c’est que ça tue la science-fiction !

      3. Mr T

        Intuitivement pour moi si les machines devaient connaître les désirs humains cela veut dire qu’elles doivent éprouver elles-même ces désirs, en somme elles n’auront aucune raison de verser le produit de leur travail aux pathétiques humains n’ayant pas la moitié de leurs capacités. Ce serait ni plus ni moins que la fin du genre humain en tant que vie organique et l’avènement des machines conscientes, en accord avec vos prédictions je dois reconnaître.

        1. JB7756

          Entre connaître et éprouver les désirs humais il y a une grosse différence. Je ne crois pas à un scénario de révoltes des machines comme on voit en SF à moins qu’on soit assez fou pour créer des machines douées de sentiments humains.

          Je pense plutôt que les humains finiront pas devenir des machines pour donner un sens à leur existence ce qui aboutira à la fin de l’espèce biologique humaine. En effet ne servir à rien, même dans un paradis artificiel, est déprimant car vide de sens. Mais peut être verra t’on des gens s’enfermer dans des mondes virtuels comme dans le film Matrix sauf que ce sera volontaire. Les drogués des mondes virtuels, ça existe déjà…

        2. Bof. Peut-être, peut-être pas. Ne partez pas tous du principe qu’il y aura scission claire entre les machines et les humains. Je pense qu’en réalité, la limite de l’une à l’autre entité se fera de façon floue. Dès lors qu’on peut miniaturiser des unités de calcul dans une cellule vivante, un type qui dispose de millions de ces cellules qui lui apportent (p. ex) des réflexes plus rapides, une connaissance encyclopédique, une mémoire parfaite, et une durée de vie x 1000 est-il encore humain ? Est-il une machine sachant qu’il a toujours son cerveau et 23 paires de chromosomes ?

        3. JB7756

          @H16

          Si on part vers l’hypothèse du Cyborg, la part biologique va aller sans cesse en s’amenuisant et il viendra un moment ou elle sera plus une gène qu’autre chose. Un corps humain c’est pas très adapté pour aller sous l’eau ou dans l’espace, un peu comme si une formule 1 traînait des bouts de voiture à cheval. Un moment on se débarrassera purement et simplement des derniers vestiges biologiques.
          D’une certaine façon il y aura eu une continuité mais on ne pourra plus parler d’Homo Sapiens. Ce sera de l’Homo Roboticus.
          Attention il ne faut pas imaginer la robotique dans 50 ans comme celle d’aujourd’hui. Ce seront des mécanismes bien plus fin et proche du biologique par certains aspects notamment la miniaturisation (nanomachine), l’auto réplication…

    2. jesrad

      “Les machines seront gratuites“ dans vos rêves peut-être 😉 Une machine douée de raison et d’initiative comme un humain a aussi les mêmes droits, c’est une personne. Mon hypothèse cependant c’est que les IAs à venir ne seront pas indépendantes, mais plutôt des sortes de prothèses et outils. Exemple: le GPS de voiture qui prend en charge à votre place ces fonctions cognitives complexes de navigation.

  11. Flo

    « 2020/2030 on sera en fait tous au chômage ou plutôt en retraite (en plus d’avoir une longévité très augmentée) »

    Perdent leur temps alors à vouloir repousser l’âge de départ en retraite et à tenter de réduire les déficits.

    Ou alors ils ont déjà compris tout ça et c’est pour ça qu’ils le font si mal parce que finalement ça n’aurait aucune importance.

    1. JB7756

      Je ne sais pas si tous les politiciens sont Singularistes ? Mais effectivement certains agissent comme si ils l’étaient.

      Car à partir du moment ou le travail sera fait par des machines, on change complètement de système économique. On touchera tous des allocations probablement égales qui seront financées par une taxe à 100% sur les machines qui se moqueront de ne pas être payée. Et il y aura un défaut général sur les dettes du passé. Les gros patrimoines seront probablement ruinés voire saisie car il n’y aura plus d’intérêt sociale à avoir des riches (et oui les riches c’est utile).

      D’ailleurs la Singularité on la sent déjà. Aujourd’hui avoir un métier à vie est de plus en plus difficile à concevoir. Il faut sans cesse revoir ses connaissances et s’adapter à de nouveaux produites / concurrents. C’est pour cela qu’un chômage structurel se développe : il faut du temps pour changer d’emploi et certaines personnes sont clairement dépassées.

  12. Winston (l’un)

    @JB7756

    Il est faux de dire que le cerveau humain est une machine.
    Comme l’a soulevé un commentaire, l’intelligence réside dans le questionnement et absolument pas dans la réponse.

    Il existe des tas de limites au calcul, notemment le problème de la calculabilité qui est insoluble et auquel on se heurtera de plus en plus à mesure que les programmes se complexifient.
    De même l’optimal et le rationnel sont parfois en contradiction (dilemne du prisonnier), et la structure même d’un ordinateur binaire ne permet pas d’appréhender correctement ce type de problème.

    Le domaine est très vaste et il reste beaucoup de zones à explorer. Mais un programme ne sera jamais plus intelligent que celui qui le code.

    Pour finir : aucun ordinateur n’a jamais énoncé un théorème, car en général ils sont intuités avant d’être prouvés.

    1. JB7756

      Toutes ces objections ont été traités par de meilleurs auteurs que moi, dont Kurzweil bien évidemment… Donc je vais pas revenir dessus mais simplement ils sont contestables.
      Quoiqu’il en soit, il y a des gens qui travaillent dessus et qui avancent. Question de temps…

  13. Flo

    « On touchera tous des allocations probablement égales qui seront financées par une taxe à 100% sur les machines qui se moqueront de ne pas être payée »

    Permettez-moi de douter que les machines nous permettent de les taxer à 100 %!

    1. JB7756

      Si les machines commencent à contester ce qu’on leur impose, on aura fait une grosse erreur et on sera mal barré…
      En fait ce qui peut arriver, c’est que ne comprendra plus ce que les machines feront / diront. Comme une fourmi qui ne comprendra jamais les concepts et les idées des humains.

  14. scaletrans

    Je n’ai pas ri, et je ne crois pas à cette singularité là, même avec des gigas de téraflops. Mais peut-être est-ce parce que je ne crois pas à l’évolution des espèces…car il s’agit bien d’une croyance, et non d’une science.
    PS Je m’attends à des réactions violentes avec une impassibilité de marbre.

    Cordialement à tous !

    1. JB7756

      Le Singularisme n’est pas une science, c’est une vision du monde. Mais on est pas forcé d’y souscrire puisque le progrès technique avance « tout seul » par le simple jeu de la compétition entre entreprises (création de nouveaux produits) et par la consommation (sélection des meilleurs produits).
      Ainsi créer une IA à une valeur économique, donc on le fera. Il faut pas aller chercher plus loin. Après il arrivera ce qu’il arrivera. En espérant que les conséquences soient gérées avec tacts.
      Par exemple lorsque les premières IA (les vrais, d’un niveau humain, on les appelle AGI) arriveront sur le marché, ça se fera vraisemblablement d’un coup. Parce qu’avoir une IA du niveau d’un chien c’est un bel exploit technique mais ça sert à rien. En quelques années des millions d’emplois seront perdus, surtout parmi les cols blancs. Si on veut éviter un effondrement économique et sociale, les politiques devront réagir dans la bonne direction.

  15. Sanksion

    Si une machine pense, je doute qu’elle accepte de faire vivre des parasites sociaux aussi facilement qu’un être doué d’émotions. Si on considère que Rand est un cyborg venu du futur.

    1. JB7756

      Il ne faut pas confondre intelligence et volonté. Si le but de la machine est de servir l’Homme, elle le servira jusqu’à la mort.

        1. scaletrans

          Être capable de faire de plus en plus d’opérations par seconde, soit; être capable d’évoluer en fonction d’informations nouvelles, soit; mais, dans une certaine mesure, Word le faisait déjà il y plus de 10, on appelle ça les systèmes experts; c’est la fonction de tables de décision de plus en plus complexes, avec des arborescences dans lesquelles les programmeurs ont de plus en plus de mal à se retrouver.
          Croyez-moi, la révolte de HAL (2001 Odyssée de l’Espace)n’est ni pour demain, ni pour après demain.

        2. Sanksion

          Excel ne pense pas, il calcule correctement si on arrive a bien lui expliquer le probleme dans un langage debile.
          La, je parle d’une machine qui a une veritable intelligence, capable d’estime d’elle meme et capable de se reproduire. Ce genre de machine la, personne ne pourra les asservir a moins de leur inculquer la peur du formatage ou la peur de mourir. Des emotions en gros.

  16. nicolas

    @Winston (l’un):
    La calculabilité n’est pas vraiment le problème. Il est vrai que certains problèmes ne peuvent être décidé (répondre oui ou non en un temps fini), notamment la logique du premier ordre (en gros, la plupart des théorèmes de math), par des machines de turing.
    Et c’est aussi vrai que l’on prend souvent les machines de turing comme des modèles des ordinateurs (ce qui est un peu trop large car l’ordinateur n’as pas vraiment une mémoire infinie, mais à part ça c’est correct).
    Par contre rien n’empêche de pourvoir ton ordi d’une entrée « random » (par exemple une mesure physique d’un capteur), et dans ce cas il peut se mettre à « sortir » du modèle des machines de turing…
    De plus les problèmes indécidables, on sait pas les résoudre nous non plus, mais on a de la « chance » et on y arrive.

    Pour ce qui est des maths en effet les ordi à ce jour ne prouvent rien (au sens où ils ne trouvent ni les théorèmes ni les preuves), ils se contentent de vérifier des preuves (actuellement le logiciel coq). Mais si ils se mettent à chercher des preuves selon des méthodes, en mettant un peu de « pif » au milieu, ils pourraient commencer à faire quelquechose…

  17. Alex6

    Ca coincera: la courbe ascendante de l’intelligence artificielle va rencontrer la courbe descendante de l’intelligence des hommes politiques, l’une ou l’autre devra donc disparaitre.
    A choisir, je prefere encore un robot prenant les memes decisions debiles que nos politiques. On y gagnerait le cout de tous ces parasites avec probablement un resultat assez proche au final (qui a souffle meilleur?)

  18. Maintien

    Bon, autant je trouve h16 pertinent sur les questions politiques, autant cet article est decevant du point de vue de son analyse. Quand a ceux qui raisonnent avec des « 1000 fois plus performants qu’un cerveau humain », ca fait plus pitie qu’autre chose.

    Non, les ordinateurs ne sont pas prets d’arriver a la cheville de la capacite d’un veritable cerveau. Les ordinateurs fonctionnent de maniere lineaire, procedurale, alors que dns le cerveau chaque neurone est un systeme en lui-meme, et l’enchevetrement de ces neurones cree des systemes interdependants les uns des autres. L’architecture des ordinateurs est figee, inflexible, et en l’etat actuel des techniques de programmation les capacites de « raisonnement » des ordinateurs se resument a faire des analyses statistiques vis a vis de bases de donnees. C’est plus ou moins ce que fait Watson dans ce cas la. Il ne comprend pas veritablement la question.

    Avant de pretendre atteindre la complexite d’un truc comme le cerveau, il faudrait deja comprendre le fonctionnement intrinseque du cerveau. La recherche dans ce domaine est tres active, mais meme les meilleurs chercheurs dans le domaine vous diront qu’on a besoin d’encore une bonne 30 voire 50aine d’annees avant d’elucider les mecanismes du cerveau humain. Tant qu’on aura pas un modele qui explique comment le cerveau humain aboutit a creer une pensee, on ne pourra pas le « programmer » dans une machine. Ceux qui pretendent le contraire sont des charlatants ou des gens qui ignorent completement la complexite du probleme.

    L’informatique et la robotique sont encore a leurs balbutiements – la puissance de calcul intrinseque ne veut rien dire, comme disait une pub de Pirella, « sans maitrise, la puissance n’est rien ».

    Il suffit pas d’avoir un boulier pour savoir construire une pyramide de 100 metres de haut.

    Meme si on avait une puissance de calcul infinie a portee de main, ce sont des concepts, les modeles qui manquent.

    1. « Les ordinateurs fonctionnent de maniere lineaire, procedurale » : hum. Non.
      « alors que dns le cerveau chaque neurone est un systeme en lui-meme, » : hum. Non plus.
      « L’architecture des ordinateurs est figee, inflexible ». Hum. Non encore. FPGA.
      « des ordinateurs se resument a faire des analyses statistiques vis a vis de bases de donnees. » Caricatural.

      Tu as une approche qui aurait été exacte il y a 20 ans. Les choses évoluent vite, de plus en plus. Et de surcroît, pas qu’en informatique. Un autre nom, pour illustrer : K. Eric Drexler.

      1. Maintien

        H16, il ne suffit pas de repondre par « Hum, non » pour avoir raison 🙂

        Les ordinateurs fonctionnent a partir de programmes, chose que tu ne peux nier, et un programme est une sequence d’instructions les unes a la suite des autres avec des embranchements logiques. Il y a certes les languages declaratifs qui fonctionnent avec une base de donnees et une serie de regles a suivre pour trouver par eux-memes une solution, mais c’est tres mathematique et ca n’invoque aucune « creation » de la part de l’ordinateur. Contrairement a un ordinateur, le cerveau ne recoit pas un set d’instructions a chaque instant pour fonctionner. Ca n’a rien a voir.

        Pour le FPGA, je ne vois pas trop ou tu veux en venir. C’est ni plus ni moins que de la pate a modeler en terme de processeur. Oui, ca peut changer de forme en temps reel, dans le meilleur des cas, pour s’adapter aux taches en cours, et alors ? Ca reste fondamentalement des portes logiques qui obeissent de toute maniere a un programme a la base qui determine de quelle maniere elles doivent etre structurees. Le FPGA c’est pas nouveau, c’etait deja de partout dans les annees 90s, et ca n’a pas revolutionne l’informatique pour un sou.

        Les ordinateurs ne se resument pas a faire des analyses statistiques vis a vis de base de donnees ? ah bon ? Ils font quoi alors ? Quand tu tapes « mangeur d’enfants communistes » sur Google, tu croies que dans le serveur de Montain View, l’intelligence du reseau comprend le sens intrinseque de ta phrase avant de te donner le resultat de ta recherche ? Bah non. Les moteurs de Google sont bases sur des robots (virtuels) qui passent leur vie a indexer le contenu du net et a en faire une grosse base de donnee constamment a jour. Ensuite, l’algorithme maison de Google etablit un ranking suivant un set de criteres (encore une fois de la programmation, hein, on est dans pas dans le monde de Skynet non plus) et balance ses recommendations.

        Je lisais deja des revues informatiques dans le debut des annees 80 qui fantasmaient sur les revolutions a venir avec les super performances en augmentation constante (les disques durs de plusieurs Megas ca faisait rever a l’epoque). Force est de constater que si l’informatique a change nos vies, c’est plus par le cote « efficacite » (plus rapide pour faire des taches courantes) que par son intelligence. Pour revenir sur l’exemple de Google, encore, on est encore loin, tres loin d’avoir des recherches tres efficaces. COmbien de fois ne doit-on pas parcourir plusieurs pages de resultats pour trouver une information?

        Si les ordinateurs etaient intelligents, une recherche ne devrait pas necessairement debouler sur des resultats, mais sur un dialogue avec l’ordinateur, pour justement chercher a identifier les points incertains de la requete et ses ramifications. C’est typiquement ce que font les humains pour resoudre un probleme: ils en confirment les elements, les tenants et les aboutissants avant de se lancer dans la resolution.

        Non, franchement, le Watson trucmuche, c’est un joli jouet mais ca n’est en aucun cas un « grand pas dans l’informatique ».

        1. Je voudrais bien rentrer dans le détail, mais l’espace va manquer. Ainsi, tu écris « le cerveau ne recoit pas un set d’instructions a chaque instant pour fonctionner. », ce qui a été démontré faux par Chomsky dans les années 70 (il y a eu d’autres choses découvertes depuis). Rien que sur cette assertion, il y a au moins deux ou trois billets à écrire (temps limité, désolé, je coupe court).

          Pour le reste, tu balances un certain nombre de choses en partant du présupposé soit que je ne sais pas de quoi je parle (c’est dommage, cet a priori nuit grandement à ton argumentation), soit que tu détiens toutes les informations possibles pour émettre un avis présenté de façon péremptoire (tu ne l’es peut-être pas, mais là encore, l’impression qui ressort n’est pas à ton avantage).

          Enfin, ta conclusion montre que tu n’as pas compris le sens du billet, qui n’est pas de dire que la dernière production d’IBM est un grand pas dans l’informatique, mais que cet élément, comme une foule d’autres, confirme l’idée initiale de Kurzweil. C’est tout.

        2. JB7756

          @Maintien
          Pour préciser : l’ADN qui est à la base de la structure du corps humain et du cerveau et une suite linéaire d’instructions.
          Le gros du travail du cerveau c’est de reconnaître des motifs (Patterns en anglais) via sa structure massivement parallèle et d’en tirer des associations parfois avec des motifs qui au départ n’ont rien à voir entre eux : c’est ici que la créativité a lieu.

        3. Maintien

          Pour revenir sur le billet et Kurzweil donc, je citerais l’ami Pinker, qui dit ceci sur la singularite :

          « There is not the slightest reason to believe in a coming singularity. The fact that you can visualize a future in your imagination is not evidence that it is likely or even possible. Look at domed cities, jet-pack commuting, underwater cities, mile-high buildings, and nuclear-powered automobiles–all staples of futuristic fantasies when I was a child that have never arrived. Sheer processing power is not a pixie dust that magically solves all your problems. »

          Au passage, j’aurais beaucoup de mal a croire dans la vision d’un type comme Kurzweil quand on voit les principes qu’il applique a son quotidien : bouffer 250 supplements alimentaires par jour pour « reprogrammer » son metabolisme et vivre plus longtemps, c’est davantage un signe de demence que de genie.

  19. Bernard

    Est-ce que vouloir agir sur le vivant et plus particulièrement l’homme n’est pas aussi prétentieux et contre productif que l’interventionnisme économique? Dans le deux cas il s’agit de se mêler d’un truc qu’on ne comprend que de manière très parcellaire. L’interventionnisme économique à les effets que l’on sait, je pense que ce sera pareil avec le vivant.

    1. Agir sur le vivant, par nature même, le vivant n’arrête pas de le faire. Donc en soi, j’ai du mal à voir ça comme décisivement bon ou mauvais… En outre, le défaut de l’interventionnisme économique est que l’état s’arroge des droits en posant un principe d’omniscience. Agir sur tel ou tel comportement du vivant ne part pas du même principe, a priori (ou j’ai mal compris).

  20. Pierre-Yves

    C’est intéressant, et ces nouvelles machines vont sans doute révolutionner notre accès à l’information et notre façon d’entrer en relation avec le monde. De ce point de vue on peut imaginer de forts changements.

    Elles n’en resteront pas moins des machines, ie des outils inertes, qui ne possèdent pas l’intelligence d’un être humain (celle qui consiste à comprendre la réalité dans la perspective d’un profit dans la vie).
    La capacité des machines de gérer des informations n’est pas de même nature que celle d’un Newton ou d’un Einstein.

  21. aGuest

    lorsque les anti-ogm, devenus anti-nanotechnologie depuis qu’ils ont réussi à bannir les ogms, se rendront compte de cette avancée, ils feront tout pour l’interdire.

Laisser un commentaire