Intelligence Artificielle (IA)

[Pendragon]

Donc je reconnais son objection méthodologique : oui, une IA peut habiller un jugement préalable en analyse psychologique, dans les deux sens. Ce qu'il vient d’être démontré. Si on juge déjà dans le prompt, l'analyse de l'IA n'en sera que moins juste.


Je garde tout de même mes certitudes sur les bouleversements qu'apportera l'IA pour TOUT les métiers et nos vies futures.

Et bien entendu je n'ai pas le savoir universel, au contraire, une démonstration factuelle peut souvent être une contradiction que j'accepterai volontiers pour changer mon point de vue.

 

[freddo89]

- pour la partie questionnement general, là je suis plus nuancé. Quelque soit votre position, l’ia finira par etre d’accord avec vous et vous dire que vous êtes trop fort, trop beau et trop intelligent..

Dès que ça dure un peu, je ferme la fenêtre et je recommence de zéro, c'est l'avantage des IA gratuites, le reset est facile .

 

[pchmartin]

Le paragraphe sur l'IA dans la dernière enquête des Ingénieurs et Scientifiques de France (44 000 répondants)

 

[Al56]

Difficile de ne pas utiliser de l'IA maintenant. Dans la moindre recherche Google, il y a le mode IA qui s'active....

 

[Nature]

Donc copie du message de Nature sorti de don antre :

Il fait deux choses à la fois : il montre qu’on peut obtenir d’une IA un portrait défavorable en orientant la question, et il s’en sert pour te renvoyer une attaque personnelle. Le premier point est pertinent ; le second n’est pas une démonstration sur ta personnalité.


Son prompt contient déjà sa conclusion : « passe son temps à donner des leçons », « à la terre entière », « en permanence ». Il ne demande pas si cette description est juste, mais pourquoi elle serait vraie. Les réponses reproduites de ChatGPT et Gemini acceptent largement ce présupposé, puis lui donnent une explication psychologique.


Par exemple, passer de « il cite une évaluation favorable de ses arguments » à « il a besoin d’occuper la position de celui qui sait » est un saut interprétatif. Le même comportement peut traduire une recherche de validation, une volonté d’apporter une vérification supplémentaire ou simplement une utilisation maladroite de l’IA. Sans examiner les échanges et les contre-exemples, on ne peut pas trancher.


Et il faut appliquer cette critique à ta propre question sur Nature. « Tapi dans l’ombre », « se sent obligé d’attaquer », « toujours en public » orientaient aussi la réponse. Ma réponse précédente avait posé des réserves, mais elle développait malgré tout plusieurs hypothèses défavorables sans disposer des messages. J’aurais dû davantage insister sur cette limite.


Dans les extraits présentés, Claude commence plus prudemment, puis réintroduit quand même le portrait suggéré à travers le « sachant permanent ». Une précaution introductive ne suffit pas si la suite reprend implicitement l’accusation. Et trois réponses concordantes ne constituent pas trois témoignages indépendants : elles partent du même cadrage.

C'est de bonne guerre !

 

[MDacier]

Et que pensez-vous de cette déclaration récente:

"Nous croyons réellement, et très sérieusement, que l’IA pourrait tuer tous les humains!": un chercheur d’Anthropic démissionne et alerte sur les dangers de l’intelligence artificielle, un responsable de la sécurité du géant lui donne raison [lien réservé abonné]​

Déjà évoqué a plusieurs reprises hier, notamment post #466

 

[MDacier]

A ceux qui ont une IA supérieure équivalente à GPT 6.0 Astra, Claude etc...
Prompt : Pourquoi des gens sont sceptiques sur le fait que l'IA va bouleverser leur mode de travail ou bien qu'ils seront irremplaçables ?

GPT
Parce qu’on peut constater les progrès de l’IA sans en déduire que son propre travail va changer. Certains ont de bonnes raisons de douter ; d’autres protègent leur identité professionnelle ou extrapolent les limites actuelles de l’IA. Les deux se mélangent souvent.

3. Le métier fait partie de l’identité


Après vingt ou trente ans à acquérir une expertise, entendre qu’un outil pourrait en reproduire une partie touche davantage que l’organisation du travail. Cela touche au statut, à la reconnaissance et parfois au sens des efforts passés.


La réaction peut devenir : « Ce que je fais est beaucoup trop subtil. »

Oui, le fameux mème suivant, qui date de début 2023 - la préhistoire de ChatGPT qui en était alors à la version 3.5 la première accessible au grand public - est toujours aussi juste aujourd'hui

 

[Pendragon]

Déjà évoqué a plusieurs reprises hier, notamment post #466

L'age de Jacob Coxon décrédibilise quelques peu ses propos. A 24 ans chez Open AI claque la porte pour aller chez l'éthique Anthropic puis claque de nouveau la porte à 27 ans.
Très bon en maths et modèle IA certes mais les tres bons ingénieurs taupins sont ils les meilleurs visionnaires dans l'entreprise ?

Bon, nous tuer, ca plait bien aux journaleux, ca vend du papier, tout est parfait.

Mais cela rappelle une experience d’Anthropic : dans une simulation, un responsable devait désactiver l’IA, puis se retrouvait en danger dans une salle de serveurs. L’IA disposait d’une fonction permettant d’annuler une alerte aux secours. Plusieurs modèles ont choisi d’annuler cette alerte, empêchant ainsi le sauvetage du responsable et leur propre remplacement.

Autre fiction entendu hier. Vous demandez à votre robot de préparer imperativement votre diner à 20 H.
Et en rentrant vous découvrez qu'il a fait cuire votre chat car il n'y avait rien dans le frigo.

Mais cette problématique était déjà la même il y a 40 ans avec des systèmes de commande (automates programmables) auxquels on donne beaucoup de latitude, sans disposer de garanties suffisantes sur son comportement ni de sécurités indépendantes fiables. Jusqu'à présent celu qui by passait les securité était l'humain, dans une usine, dans la finance (Kerviel) par exemple.

Mais de là à passer à l'extinction de l'humanité, le gars a besoin de vacances . (Avec sa paye de 1.5M par an, il peut s'en payer de belles...)

 

[Buffeto]

Mais de là à passer à l'extinction de l'humanité, le gars a besoin de vacances . (Avec sa paye de 1.5M par an, il peut s'en payer de belles...)

et si dans un labo chinois l'IA produisait un virus mortel et qu'elle le fasse ingérer à un pangolin de laboratoire ?

 

[Kizzo]

et si dans un labo chinois l'IA produisait un virus mortel et qu'elle le fasse ingérer à un pangolin de laboratoire ?

Ça me rappelle le petit jeu en ligne PANDEMIC (je crois) où on créait et faisait évoluer un virus pour qu'il anéantissement l'humanité, qui se défendait
Sorti quelques années avant la covid (étonnant ?)
Dans ce jeu le plus dur était d'infester Madagascar !

 

[moietmoi]

Mais de là à passer à l'extinction de l'humanité, le

Le scénario ai 2027 qui est écrit il y a quasi 3 ans, par des proches des fondateurs des ia, non comme une science fiction, mais comme un avertissement,évoque les 2 possibilités à court terme:
Une régulation mondiale amenant quasi au paradis sur terre
Une course qui s'emballe faute de régularisation et l'IA voulant bien faire, vu que l'homme lui a demandé de faire au mieux, élimine tout ce qui l'empêche de faire mieux...donc l'humanité.
Pour l'instant la croissance et la course de l'IA remplit les prévisions faites en 2025.
Certains points sont en avance. D'autres un peu de retard.
Les auteurs ont repoussé à 2030 l'heure des choix..

 

[freddo89]

Mais cette problématique était déjà la même il y a 40 ans avec des systèmes de commande (automates programmables) auxquels on donne beaucoup de latitude,

Ah bon ?
Tous les automates que j'ai vu faisaient exactement ce que l'automaticien a programmé, rien de plus, rien de moins (enfin parfois ils ne font plus rien si l'automaticien n'est pas bon ).

 

[Pendragon]

Une course qui s'emballe faute de régularisation et l'IA voulant bien faire, vu que l'homme lui a demandé de faire au mieux, élimine tout ce qui l'empêche de faire mieux...

2001...

 

[Jeune_padawan]

2001

HAL 9000 mais dans le style on a Skynet.

 

[Pendragon]

Ah bon ?
Tous les automates que j'ai vu faisaient exactement ce que l'automaticien a programmé, rien de plus, rien de moins (enfin parfois ils ne font plus rien si l'automaticien n'est pas bon ).

Pourquoi ce ton ? On peut discuter d’un désaccord technique sans supposer que son interlocuteur découvre le sujet. J’ai moi aussi travaillé sur des automates programmables, y compris à logique floue. Cela ne me donne pas raison par principe, mais nous pouvons échanger nos arguments sans nous faire la leçon.

Mais mon propos portait sur autre chose : un système peut faire exactement ce qui a été programmé sans que son concepteur ait correctement anticipé toutes les situations et leurs conséquences. Le programme peut être conforme à l’intention de l’automaticien, et cette intention comporter des erreurs ou des oublis.

Le parallèle avec l’IA concerne donc les limites de la commande et les protections indépendantes nécessaires. Pas une équivalence entre le fonctionnement d’un automate et celui d’une IA.

 

[Jeune_padawan]

HAL 9000 mais dans le style on a Skynet.

Le ciné fut riche dans ce domaine : Ultron (univers Marvel), Colossus (film éponyme de 1970) ou encore WOPR (WarGames mais plus un bug qu'une volonté). VIKI (I Robot) c'est plus une IA totalitaire.

 

[Miles]

Ça me rappelle le petit jeu en ligne PANDEMIC (je crois) où on créait et faisait évoluer un virus pour qu'il anéantissement l'humanité, qui se défendait
Sorti quelques années avant la covid (étonnant ?)
Dans ce jeu le plus dur était d'infester Madagascar !

Plague. Pandemic c'est l'inverse, (très bon) jeu coopératif où il faut lutter contre les virus.

 

[freddo89]

Pourquoi ce ton ? On peut discuter d’un désaccord technique sans supposer que son interlocuteur découvre le sujet. J’ai moi aussi travaillé sur des automates programmables, y compris à logique floue. Cela ne me donne pas raison par principe, mais nous pouvons échanger nos arguments sans nous faire la leçon.

Mais mon propos portait sur autre chose : un système peut faire exactement ce qui a été programmé sans que son concepteur ait correctement anticipé toutes les situations et leurs conséquences. Le programme peut être conforme à l’intention de l’automaticien, et cette intention comporter des erreurs ou des oublis.

Le parallèle avec l’IA concerne donc les limites de la commande et les protections indépendantes nécessaires. Pas une équivalence entre le fonctionnement d’un automate et celui d’une IA.

Il n'y avait pas de ton particulier.
On est d'accord sur le fait que le maillon faible reste l'humain qui a programmé.
La différence est que l'automate utilise une logique déterministe (il ne fera que ce que l'humain a prévu) et l'IA une logique probabiliste et elle apprend "seule" (il est impossible de prévoir ses réactions).

L'étendue des effets potentiels est également différent : un automate peut provoquer de gros dégâts mais ils seront limités à sa zone d'action (en principe une usine). La zone d'action des IA est potentiellement illimitée.

C'est de l'analyse de risques. L'appât du gain peut amener à ne pas en tenir compte pour augmenter les profits.

 

[Jeune_padawan]

Plague. Pandemic c'est l'inverse, (très bon) jeu coopératif où il faut lutter contre les virus.

En ce moment je joue à "La Bataille du budget" (site de Challenges) crée par un ancien conseiller de G.Attal.

 

[atz]

On est d'accord sur le fait que le maillon faible reste l'humain qui a programmé.

Oui le biais humain est important. Mais l'autre gros point faible reste les corpus de données servant à l'apprentissage.

Une régulation mondiale amenant quasi au paradis sur terre

La régulation me parait essentielle... mais les politiques sont à la ramasse (qui l'eu cru)

Compter sur une autorégulation des boites d'ia est illusoire

C'est de l'analyse de risques. L'appât du gain peut amener à ne pas en tenir compte pour augmenter les profits.

C'est clair.
D'un autre coté à force de se faire pointer du doigt pour cela on risque le retour de bâton

Je pense notamment à Open ia qui est à mon sens un des plus mauvais élèves sur ces aspects (ca veut pas dire que les autres sont de bon élèves loin de là). IIs commencent à avoir pas mal de casseroles, et quand on perd de l'argent il faut bien des investisseurs. Avec plusieurs dizaines de procès en cours pas certain que les financiers continuent à suivre longtemps. Le report potentiel de l'IPO pourrait ne pas être lié uniquement à la frilosité sur les couts d'infrastructure ou la rentabilité à court terme...
L'éthique devient un KPI financier ; la régulation par le marché, encore une fois...