IA générative: de l'euphorie aux interrogations

 A la suspicion et à la crainte                                                                                                                                                                   Naguère, c'était un enthousiasme partagé, malgré quelques mises en garde concernant les mésusages potentiels de ces nouveaux outils informationnels, qui devaient développer spectaculairement la recherche et les formes diverses d'avancées dans tous les domaines. Pour un avenir radieux.      _   Puis quelques têtes pensantes commencèrent à semer le doute et à relativiser les perspectives envisagées par les plus enthousiastes et les plus intéressés par les nouvelles promesses pharaoniques de ce nouvel acquis potentiellement sans limites assignables.    Mais non seulement l'IA ne tient pas lieu d'intelligence, mais des dysfonctionnements commençaient à être signalés. D'abord timidement, puis de manière plus insistante, certains envisageant même le risque de dérives majeures, pouvant même être la source de problèmes existentiels. Certains chercheurs demandent même une vigilance extrême, au vu des périls qui s'annonceraient.     Une question devenue morale et politique, face à un développement par nature potentiellement indifférent à tout problème humain. Ce ne serait pas un fantasme...analogue à celui de Frankenstein.
                                                    Les risques ne semblent pas imaginaires. "..Sur le réseau social d'Elon Musk, puis dans le quotidien détenu par Jeff Bezos, Jacob Coxon, 27 ans, a annoncé qu’il démissionnait de son poste chez Anthropic et qu’il ne travaillerait plus pour les entreprises d’IA générative. Le chercheur en mathématiques, spécialisé dans l’entraînement de nouveaux modèles, avait précédemment travaillé chez OpenAI. Et il a un message limpide : ces entreprises « jouent à la roulette russe avec nos vies ».  « Ces systèmes deviendront bientôt surhumains, capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels », alerte-t-il. « Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait nous tuer tous d’ici la fin de la décennie », « aucune autre activité humaine ne pose un tel niveau de danger », martèle-t-il.  Pour le jeune chercheur, le but déclaré d’OpenAI et d’Anthropic, développer une IA en mesure d’atteindre l’équivalent de l’esprit humain dans une large diversité de tâches (ce qu’on qualifie d’intelligence artificielle générale, AGI), ne peut être atteint de manière « responsable ». Il doit être régulé, pour parvenir à un ralentissement dans la cadence des progrès techniques..."                                                                                        Il serait urgent de ralentir avant de perdre le contrôle, préconisent certains. D'autres expriment leurs craintes en privé.  Pour des raisons justifiées.  Des problèmes de fond se posent déjà.  J.Pachocki  prévient: "...Nous ne pensions pas aux scores spectaculaires, aux produits ou aux résultats scientifiques que cette technologie allait rendre possibles ; nous essayions plutôt d’encaisser une évidence qui donne le vertige : nous verrions de notre vivant des machines nettement plus intelligentes que nous, et nous en distinguions déjà les contours. Nous nous demandions comment faire prendre conscience de l’importance de tout cela...."                                                                                                                                                           ___ Peut-on raisonnablement penser à une telle perspective, qui vient jeter un caillou dans le mare, jouer les trouble-fêtes?    

Peut-on même parler de risque existentiel?    La question est sur la table...

                       ___________________