Hashtable

Petites chroniques désabusées d'un pays en décomposition rapide…

Dans les coulisses d’OpenAI

Réflexions décousues et Crêpes au sucre

Il y a de cela à peine plus d’un an, le monde découvrait ChatGPT, offrant un nouveau sujet de discussion à quelques utilisateurs fascinés pendant les repas de fêtes : enfin, l’intelligence artificielle commençait à ressembler à ce que nous vendait la science-fiction depuis des décennies.

Bien sûr, il n’a pas fallu longtemps pour que les prouesses démontrées par les grands modèles de langage soient quelques peu raillées par les plus sceptiques, au moyen de l’une ou l’autre démonstration loufoque (depuis les dissertations sur le contenu nutritif des œufs de vache jusqu’aux niaiseries sur le cheval blanc d’Henri IV dont la couleur semblait alors impénétrable pour ces intelligences très artificielles).

Néanmoins, l’année 2023 permit d’empiler les preuves que ces modèles résolvaient malgré tout avec brio certains types de problèmes ou d’examens, ce qui n’a pas manqué d’imposer des questions de plus en plus prégnantes sur l’avenir de certaines professions, artistes ou clercs par exemple, qui, confrontés aux prouesses fournies par ces outils, commencent à sérieusement remettre en question leur façon de travailler.

Sans surprise, ces interrogations ont été rapidement l’objet de récupérations par les politiciens qui, jouant sur les peurs sans lesquelles ils sont vus comme ce qu’ils sont vraiment, à savoir des saltimbanques plus ou moins colorés, ont rapidement poussé des lois et autres projets législatifs contraignants afin de « réguler tout ça » tant cela pouvait constituer, à l’évidence, une menace potentielle pour l’Humanité (et certaine pour leurs postes).

Cependant, entre d’un côté l’inertie très importante des institutions bureaucratiques, l’incapacité naturelle des politiciens à saisir réellement les complexités de ces nouvelles technologies et, de l’autre, la rapidité fulgurante des développements dans le domaine, l’année fut rapidement remplie d’innovations et de progrès qui ont (heureusement ?) laissé l’essentiel des observateurs et l’engeance politicienne quelque peu cois.

Et c’est ainsi qu’on se retrouve, une douzaine de mois plus tard, avec un fourmillement de développements surprenants.

Dans le domaine artistique, le chemin parcouru est grand depuis les premières moutures de DALL-E ou MidJourney. Non seulement le nombre d’outils pour produire des images a explosé, mais on en trouve maintenant qui sont capables de composer l’image à partir d’une entrée textuelle et de guides graphiques fourni par l’utilisateur, comme krea.ai par exemple.

Ce qui était du seul domaine de l’image fixe touche à présent les vidéos dont de courtes séquences peuvent être produites directement, toujours à partir d’une simple description.

Bien évidemment, c’est encore loin d’être parfait, il y a notamment des soucis de cohérence temporelle – le fait de conserver le sujet et son contexte de façon cohérente d’une image à l’autre – mais petit-à-petit, les outils permettent d’envisager de produire des petits clips de plus en plus longs. On se rappellera qu’il n’y avait rien il y a deux ans.

Sans surprise, ce qui est possible avec des images est possible avec du son, et les outils de reproduction de voix crédibles sont maintenant légion. Petit-à-petit, la création musicale s’ouvre aux réalisations artificielles, depuis la production chantée jusqu’aux petits clips musicaux d’accompagnement de contenu.

Cependant, toutes ces innovations ne sont finalement que des extensions, de plus en plus pointues, précises et efficaces, de ce qu’on avait déjà pu entrevoir depuis les deux ou trois dernières années : d’un côté, des progrès importants sur les modèles de langages, basés essentiellement (pour schématiser grossièrement) sur un papier paru il y a 10 ans de cela (Word2Vec) et les développements consécutifs, chez Google Deepmind, des « transformers » depuis 2017. En image (et toujours en simplifiant beaucoup), ce sont les recherches sur les espaces latents qui ont donné naissance à toute une famille de procédés pour produire des images d’une qualité renversante à partir de descriptions textuelles.

A contrario, ce qui s’est passé dans les derniers jours de novembre à OpenAI, la société qui a notamment développé Dall-E et ChatGPT, indique peut-être qu’une nouvelle page s’écrit fébrilement en matière d’intelligence artificielle, aux conséquences potentiellement bien plus profondes encore que ce qu’on a vu jusqu’à présent.

En l’espace de quelques jours, le monde de l’intelligence artificielle a ainsi été confronté à une série de montagnes russes : le 17 novembre, Sam Altman, le co-fondateur d’OpenAi, apprend qu’il est viré de sa société. Microsoft, le plus gros partenaire (qui la finance à hauteur de 10 milliards de dollars sur 10 ans), n’apprend la nouvelle que quelques minutes avant le reste du monde. Dans la foulée, Greg Brockman, l’autre co-fondateur d’OpenAI, démissionne de sa position de président du conseil.

Le 18, Mira Murati est désignée PDG par intérim. Le 19, alors que la nouvelle du licenciement d’Altman continue de faire des remous, on apprend que Microsoft l’embauche ainsi que Brockman pour diriger une nouvelle division de recherche et développement. Le 20, l’ancien patron de Twitch, Emmett Shear, annonce qu’il va devenir le PDG d’OpenAI, alors même que plus de 500 employés de la société signent une lettre ouverte menaçant de démissionner si Altman n’est pas réintégré. Le 21, la situation devient effervescente au point qu’en fin de journée, la société annonce être parvenue à un accord pour le retour d’Altman.

Compte-tenu de la médiatisation de cette affaire, une question est sur toutes les lèvres : que s’est-il réellement passé pour arriver à un tel désastre de communication ? Comment peut-on imaginer que les responsables du conseil d’administration ont pu se sentir obligé de virer Altman pour le reprendre une poignée de jours plus tard ?

On se doute, confusément, que ces membres ont dû être particulièrement secoués pour aboutir à leur décision qui apparaît prise sous le coup de l’émotion. Les spéculations sont allé bon train sur ce qui les aurait ainsi incité à une telle extrémité, puis à un tel revirement.

Depuis sont apparues des fuites et des rumeurs insistantes, plus ou moins corroborées par des éléments de recherche et des avancées publiées précédemment tant par OpenAI que d’autres groupes du domaine, qui proposent quelques explications sur le comportement observé.

En substance, OpenAI aurait développé (le conditionnel est ici de rigueur) un nouveau moteur – Q* (prononcé Q-star) – qui pourrait constituer une percée majeure vers l’intelligence artificielle générale (AGI), c’est-à-dire un système autonome surpassant les humains dans la plupart des tâches à valeur économique.

La fuite ci-dessus, qu’il faut prendre avec toutes les précautions d’usage, semble indiquer que Qualia (cette instance de Q*) aurait été capable de développer et de pratiquer des mathématiques capables de casser AES-192 en un temps trivial. Il s’agit d’un algorithme cryptographique actuellement employé dans de très nombreuses applications (en version AES-256 la plupart du temps), depuis les transmissions militaires jusqu’aux transactions financières. On peut donc souhaiter que la fuite soit aussi fausse que possible, l’existence d’un moteur permettant de décrypter rapidement des messages ainsi cryptés pouvant avoir des répercutions potentiellement catastrophiques en terme de sécurité.

Mais la fuite va plus loin.

Il apparaît en effet que Qualia serait capable de recommander des changements dans son propre code pour permettre des améliorations majeures et des optimisations. Autrement dit, il serait capable de se modifier lui-même afin de s’améliorer à la volée, une caractéristique des moteurs métamorphiques qui ouvrent la voie à des améliorations de plus en plus rapides. Cette capacité serait illustrée par ce choix de dénomination, Q*, qui indiquerait un mélange entre Q-Value (un procédé statistique) et A*, un algorithme (classique en intelligence artificielle) de parcours de graphes, et qui se traduirait par deux comportements spécifiques du moteur résultant, à savoir la possibilité de raisonner contre soi-même (« self-play ») – ce qui reviendrait à entraîner le modèle contre différentes versions de lui-même – et la possibilité de planification en avance (en se basant sur des principes de commande prédictive ou de recherche arborescente type Monte Carlo).

L’élément suivant, publié sur le forum 4Chan, peut aussi bien être un gros troll dont ce forum est coutumier qu’une véritable fuite. Dans ce dernier cas, ce qui est exposé corrobore le point précédent par lequel le moteur actuellement en développement chez OpenAI serait capable d’auto-optimisation.

Il est bien sûr difficile de croire à ces exploits : des affirmations extraordinaires requièrent des preuves extraordinaires. On devra donc se contenter de conjectures… et d’enquêtes internet rebondissantes.

Bref, indubitablement, l’intelligence artificielle connaît actuellement une phase d’accélération sans précédent et il n’est plus impossible que certains des buts les plus nobles, jugés fort lointains, soient atteints très tôt dans les prochaines années au lieu de décennies.

Devant cet emballement, on se rassurera en constatant qu’en France cependant, on a su conserver un esprit critique affûté à ce sujet.

J'accepte les BTC, ETH et BCH !

qqefdljudc7c02jhs87f29yymerxpu0zfupuufgvz6

Vous aussi, foutez les banquiers centraux dehors, terrorisez l’État et les banques en utilisant les cryptomonnaies, en les promouvant et pourquoi pas, en faisant un don avec !
BTC : 1BuyJKZLeEG5YkpbGn4QhtNTxhUqtpEGKf
BCH : qqefdljudc7c02jhs87f29yymerxpu0zfupuufgvz6
ETH : 0x8e2827A89419Dbdcc88286f64FED21C3B3dEEcd8

Powered by Bitcoin Tips

Commentaires500

  1. Habeas Corpus

    La présidente de l’Université de Penn qui démissionne. Reste celle de Harvard et du MIT , pour faire bonnes mesure. Leurs masques sont tombés lors de l’excellente audition, pugnace, menée par le républicaine Elise Stefanik sur le gauchisme et l’antisémitisme dans les universités US. Ce sont des petites victoires; mises bout à bout, ce sont autant de signaux sur le retour petit à petit d’un certain bon sens (escrologisme, wokisme, lgbtinisme,antiracisme de pacotille, etc) Il faut continuer à se battre !

    1. Vieux rat

      Aux US, ils s’y connaissent en chasse aux sorcières !

      Il n’est pas bien compliqué de réhabiliter le Maccarthysme…

      1. Habeas Corpus

        Jean Bidon était dans votre ville hier. C’était une chance que d’aller pouvoir le huer en direct. ☺️

  2. Toutatis

    Je ne pense pas que le crackage de AES-192 ait grand-chose à voir avec l’IA. Il s’agit plutot que de puissance de calcul brute.

    1. Vieux rat

      Le TGV sera également inaccessible aux mauvais citoyens, comme les non-vax ou non curés du pif en 2021… 😉

      D’ailleurs, comment t’as fait MCA ? Piquouse ou curetage nasal avant chaque voyage ? 😈

      Bref, il vous restera la marche à pied en zone autorisée !

      1. Higgins

        J’ai un copain qui ne voulait pas se faire vaxxiner. Pour passer à travers les gouttes, avec le conseil d’un ami toubib, il s’est contaminé par l’intermédiaire d’un curetage nasal !!! Ça a marché.
        Je suis en train de lire de Pierre Chaillot « COVID 19, ce que révèle les chiffres officiels ». C’est implacable et on a une belle brochette d’enculés à la tête du pays (au propre comme au figuré).

        1. laurent a LA

          Ci apres un lien vers une petite video analysant l’augmentation des morts dans 17 pays du Sud, apres le debut de la pandemie comparee a apres le debut de la vaccination.

          https:/ /twitter.com/i/status/1733217201325502786

          Comme on disait dans le passe: ya pas photo.

        2. Higgins

          Michel Sardou se rend côté qu’il s’est fait b… : https:/ /lemediaen442.fr/michel-sardou-malade-du-covid-il-critique-le-vaccin-javais-tous-mes-vaccins-finalement-je-lai-dans-le-cul-comme-tout-le-monde/

          4. Roanna

            Je n’ai aucune affliction pour ce genre de personnages qui de façon délibérée ou involontaire on répondu à un ordre stupide. Qu’il subisse les conséquences de sa débilité.
            « finalement-je-lai-dans-le-cul-comme-tout-le-monde/ » (vacciné)

            1. Pheldge

              vu son âge, même Raoult lui aurait conseillé de se faire vaxxiner, le rapport bénéfice risque étant favorable. Comme il a apparemment gardé un certain esprit critique, il reconnait qu’il s’et fait baiser, quand tant d’autres s’y refusent et s’obstinent dans le déni. Faut pas être sectaire, ni radical …

        1. Vieux rat

          Major, on me fait savoir que MCA, habitué des sévices SNCF, a préféré un autre orifice pour son curetage… 😀

    2. Pierko

      Bonjour,
      Pouvez vous indiquer ou trouver les infos pour visualiser son credit social en Chine. Tous les employées en Chine ne savent pas de quoi je parle.

      Merci

      1. h16

        Ils font semblant de ne pas comprendre. 社会信用体系 , ça existe. C’est une extension du score financier.
        Wikipedia, entre deux hallucinations, écrit ceci à ce sujet : https://fr.wikipedia.org/wiki/Syst%C3%A8me_de_cr%C3%A9dit_social
        « Le système de crédit social est un exemple de l’approche chinoise dite « de haut-niveau » (顶层设计).  »
        « Depuis 2020, ce système est appliqué à l’ensemble de la république populaire de Chine, mais sans un standard national »
        « le système dit « de crédit social » est un avatar moderne et technologique du nomenclateur social marxiste-léniniste attribuant aux citoyens des « mérites » et des « démérites » selon leur attitude »

        2. Pierko

          Merci de votre reponse
          Je joint la version EN de wiki
          https://en.wikipedia.org/wiki/Social_Credit_System.
          La derniere phrase est un bon resume
          “By 2023, most private social credit initiatives had been shut down by the People’s Bank of China and regulations had cracked down on most local scoring pilot programs.”

          Un tres bon article qui explique le system (payant desole)
          https://www.scmp.com/magazines/post-magazine/long-reads/article/3205829/how-chinas-social-credit-system-actually-works-its-probably-not-how-you-think

          Effectivement Il y a une forme de credit score en Chine mais il ne s’applique principalement qu’au entreprises (même que FICO aux USA) pour un calcul du risque client/fournisseur. Ce système varie d’une province a une autre et sans base de données centralisée ce qui rend ce système relativement inutile pour le moment.

          Pour référence, je gère 6 sociétés en Chine dont 2 usines sur 14 sites en Chine.
          Je ne prétends rien si ce n’est qu un retour d’expériences pratique qui me fait douter de la fable du credit social en Chine même si le monde entier s’est emballe sur l’expérience temporaire de la ville de Rongcheng qui effectivement était un grand moment absurde. (les politiciens locaux Chinois comme dans d’autres pays ne sont pas forcément avares de stupidités)

          Je suis résident permanent a HK avec un permis de travail en Chine et je parle Mandarin et Cantonais.

          Bonne journée

          1. h16

            Le fait est que tout le monde comprend très bien de quoi on parle lorsqu’on évoque le crédit social à la chinoise. Que l’application réelle soit encore (heureusement) un peu éloignée du but final ne change rien à l’intégration et à l’utilisation du concept. Feindre l’ignorance, c’est surtout un acte rhétorique de mauvaise foi.

  4. Rufus13

    Holla,

    https:/ /www.youtube.com/watch?v=8dvZxX2qEQY

    Cette femme a réussi à obtenir 4M de subventions, regardant les données de cette vidéo (…), je me dis qu’il y a un certain lien possible de corruption avec de reçents évènements; je n’en suis pas sûr, il va de soit.

    Je passe le concept business et la relation avec le fait qu’elle soit subventionnée.

  5. laurent a LA

    Un petit aparte pour les plus complotistes d’entre nous; ceux qui se demandent encore si le covid etait un accident ou un complot:

    https://twitter.com/Rasmussen_Poll/status/1733902085274390574

    Le lien ci dessus affirme que les machines necessaires pour traiter les votes par correspondance (rendus necessaires par le mechant covid) ont ete commandees AVANT le debut de la pandemie, a un moment ou meme l’idee de vote par correspondance etait saugrenue puisque ce type de vote n’etait pas legal.

    Ca bat haut la main Stanley Kubrick qui filme l’allunissage de 69, s’pas ?

    1. laurent a LA

      Ah non pardon je m’ais gourre. C’etait apres le debut de la pandemie mais avant que le vote par correspondance soit legalise.
      C’est plus comprehensible.
      Ca m’apprendra a lire mieux.

      1. Vieux rat

        Flagrant délire de pensée conspirationniste ! 😮

        Nous allons devoir te signaler au bureau local de lutte contre le complotisme ! 😀

    2. Habeas Corpus

      Tout a été organisé la dessus, ce n’est plus un mystère, c’est pour cela que ce sont les sos (secretary of state) des swings qui ont rendu cela legal alors qu’ils n’en ont pas le pouvoir, seules les assemblees legislatives de chaque etat l’ont.une veritable forfaiture, bien organisee ( je leur tire mon chapeau sur ce point). Ils ont profite du fait aussi qu’il n’y a pas comme en france de tribunaux administratifs.

      1. laurent a LA

        Exactement
        Et c’est ca qui devait etre discute le 6 Janvier. J’etais devant mon ordi a attendre et une representante (du Texas je crois) avait annonce la couleur …. lorsque soudain les portes du Capitoles furent ouvertes de l’interieur.

  6. Higgins

    Des nouvelles du front : https:/ /brunobertez.com/2023/12/10/selon-les-renseignements-russes-2024-sera-lannee-de-leveil-geopolitique-leurs-previsions/

  8. Rick Enbacker

    https:/ /www.lefigaro.fr/politique/gerald-darmanin-annonce-la-dissolution-d-academia-christiana-un-mouvement-catholique-traditionaliste-20231210

    Les catholiques traditionalistes, ces dangereux terroristes d’estrème gigadroite qui menacent la Fraooonce !

    1. Aristarkke

      Ils vont dans les manifestations avec des poussettes d’enfants ! Julien Dray en a été tout retourné de cette dangerosité extrême ! Et pis, fait faire oublier le déficit dans les mises à exécution des OQTF…

  11. Vieux rat

    Dans un tout autre genre, mais très pertinent, cette vidéo d’Aldo Sterone !

    Est-ce qu’on peut réussir quand on est paresseux ?

    https:/ /youtu.be/WnJCmr-CeqM?si=VP-etfDEr5KcqHjZ

    Une bonne douche froide à diffuser auprès des jeunes branleurs ! 😀

Les commentaires sont fermés.