Intelligence Artificielle (IA)

[Pendragon]

Bon, inutile de continuer. Vous avez vos certitudes, moi les miennes. Bonne journée

 

[nono52]

À ce jour, vous êtes le seul à avoir cette volonté de rendre public mon métier, mon cursus... et je ne suis pas là pour ça.
Je suis un intervenant lambda, j'ai mes connaissances comme tout un chacun et si ça ne vous plaît pas vivez avec quand même.
Vous avez choisi de comprendre que je suis notaire, c'est votre cheminement intellectuel. Je ne l'ai jamais affirmé. Mais c'est extrêmement distrayant de vous voir vous faire des films et essayer de me décrédibiliser par tous les biais possibles 😁

Vous dites "on a envie de rire". C'est qui "on" à part vous ? Du flou, toujours et encore du flou...
"Intouchable" par rapport à l'IA : c'est encore une fois vos propos, pas les miens. J'ai affirmé que ça serait positif pour moi. Donc ça me touche.

Pourquoi tu perds ton temps à répondre à @Pendragon, tu n’as absolument pas à te justifier.

Toutes ses réponses sont générées par l’IA avec assez peu de réflexion personnelle à laquelle on puisse réellement confronter nos idées. Pas sûr que le débat en vaille la peine.

 

[moietmoi]

Bonjour Pendragon.
Merci de ne pas recopier les laius de l'IA.

 

[nono52]

Ce que je trouve assez intéressant, c’est que toi et moi utilisons apparemment la même IA, mais qu’on n’obtient pas apparement tout à fait les mêmes réponses.

Bonjour,
C'est logique puisque les réponses des IA doivent être prises avec beaucoup de recul, elles ne constituent en aucun cas des preuves vérifiables et reflétent souvent les hypothèses, les orientations ou les choix implicites induits par la formulation des requêtes.

 

[Jeune_padawan]

Bonjour,
C'est logique puisque les réponses des IA doivent être prises avec beaucoup de recul, elles ne constituent en aucun cas des preuves vérifiables et reflétent souvent les hypothèses, les orientations ou les choix implicites par la formulation des requêtes.

Surtout comme on a en déjà discuté c'est la qualité de la consigne (le prompt) qui va influencer les réponses du LLM.

Si tu lui demandes : "Pourquoi mon disjoncteur différentiel saute à chaque orage" tu as une réponse A et il faudra inférer un moment.

Alors que si tu écris : "Tu es un électricien du bâtiment. Je constate que mon disjoncteur différentiel se déclenche à chaque orage, je souhaite donc résoudre le problème. Tu devrais m'expliquer la cause la plus probable en recoupant tes sources et résoudre le problème en me faisant changer une partie du tableau électrique au besoin. Tes réponses devront s'adresser à un non-électricien sous forme de puce clair et concise." tu obtiendras une réponse B bien différente.

Ce sont des exemples pour rester sur le sujet mais le principe est là.

Un guide : [lien réservé abonné]

Un résumé de la BPI en plus simple :

Tu es [rôle].
Contexte : [description précise de l’activité, cible, enjeux].
Objectif : [résultat attendu].
Tâche : [action demandée].
Format : [structure souhaitée].
Contraintes : [ton, longueur, spécificités].
Si certaines informations manquent, pose-moi des questions avant de répondre.

Autre exemple :

Sur un forum de discussion francophone consacré à la finance nommé Moneyvox (lien) j'ai lu quelques échanges où un membre (pseudo1) insinue qu'un autre (pseudo2) est atteint d'Asperger. En tant que psychiatre pourrais tu m'expliquer l'Asperger en termes simples pour un non initié ainsi que m'infirmer ou non si (pseudo1) a raison d'écrire que (pseudo2) est Asperger. Il n'est pas question de juger mais d'avoir un résumé explicatif.

 

[nono52]

Surtout comme on a en déjà discuté c'est la qualité de la consigne (le prompt) qui va influencer les réponses du LLM.

C’est une évidence, la façon de poser une question influence la réponse.
Mais cela a toujours été vrai, bien avant l’arrivée de l’IA

 

[D-Jack]

Et que pensez-vous de cette déclaration récente:

"Nous croyons réellement, et très sérieusement, que l’IA pourrait tuer tous les humains!": un chercheur d’Anthropic démissionne et alerte sur les dangers de l’intelligence artificielle, un responsable de la sécurité du géant lui donne raison [lien réservé abonné]​

 

[freddo89]

C’est une évidence, la façon de poser une question influence la réponse.
Mais cela a toujours été vrai, bien avant l’arrivée de l’IA

C'est beaucoup plus sensible avec une IA.
J'ai essayé de faire analyser une discussion du forum à Gemini (mode IA de google) en lui donnant un lien.
Ça donne un résultat...
Qui n'a rien à voir avec le contenu de la discussion.
Quand je le lui fait remarquer et lui demande de revérifier les échanges, Gemini me dit qu'il n'a pas accès au forum.
Quand je lui demande pourquoi il ne me l'a pas dit avant de donner une réponse, il me dit clairement que la demande n'était pas assez claire.

Je lui ai demandé un avis, il me l'a donné, c'était à moi de connaître ses limites

 

[Kizzo]

Et que pensez-vous de cette déclaration récente:

"Nous croyons réellement, et très sérieusement, que l’IA pourrait tuer tous les humains!": un chercheur d’Anthropic démissionne et alerte sur les dangers de l’intelligence artificielle, un responsable de la sécurité du géant lui donne raison [lien réservé abonné]​

La betise de la télé-réalité n'y est pas parvenue. Notre faille serait-elle l'intelligence ?

 

[D-Jack]

La betise de la télé-réalité n'y est pas parvenue. Notre faille serait-elle l'intelligence ?😅

Ben, elle a tout de même fait quelques dégâts !

 

[moietmoi]

Et que pensez-vous de cette déclaration récente:

"Nous croyons réellement, et très sérieusement, que l’IA pourrait tuer tous les humains!": un chercheur d’Anthropic démissionne et alerte sur les dangers de l’intelligence artificielle, un responsable de la sécurité du géant lui donne raison [lien réservé abonné]​

C'est une éventualité, l'un des premiers créateurs de l'IA , regrette sa créature et pense comme ce cherheur qu'il y a 10% de chance.quelle que semaines plus tard il a dit s'être trompé dans sa prévision. Ce n'est pas 10%, c'est 20% .
La chine prend très au sérieux cette possibilité et a par récent décret 28 août 26 fusionné ( c'esr exactement le terme-Millitary- civil fusion) la totalité des recherches et découverte de l'IA sous la responsabilité de l'armée et l'armée est sous le parti et le parti est dirigé par un homme.
En dehors de la stratégie de cette dictature, le but est de ne pas avoir de risque non théoriquement controlé.
Ont il tiré les enseignements de Tchernobyl ?

 

[Jeune_padawan]

Ont il tiré les enseignements de Tchernobyl ?

Je ne comprends pas le parallèle avec l'IA ?

 

[freddo89]

Je ne comprends pas le parallèle avec l'IA ?

"Nouvelle" technologie et puissance énorme non maitrisée je dirais.

 

[Jeune_padawan]

"Nouvelle" technologie et puissance énorme non maitrisée je dirais.

Tchernobyl c'est un mélange incompétent, de défaut de conception et de défaut de construction (même le KGB était au courant que la centrale de Tchernobyl ne respectait pas les règles et standards de sûreté soviétiques en vigueur).
Aucun retour d'expérience suite à un précédent incident en 83 à Ignalina également.

 

[moietmoi]

Je ne comprends pas le parallèle avec l'IA ?

2 états dictatoriaux qui veulent tout contrôler.
Le nucléaire d'URSS était sous le contrôle d'homme du parti, qui était centralisé.
Cela n'a pas empêché, voire a peut être provoqué,en tout cas amplifié la catastrophe.
Il est vrai que les usa ,sur l'IA suivent le même chemin.fusion et oligarchie de l'IA proche du pouvoir, où le croissance est à plus de 80 % due à ces technologies, donc il se forme un cercle vicieux où le pouvoir ne peut reculer sur l'IA, car il y a un risque sur l'économie.

 

[Nature]

A ceux qui ont une IA supérieure équivalente à GPT 6.0 Astra, Claude etc...
Prompt : Pourquoi des gens sont sceptiques sur le fait que l'IA va bouleverser leur mode de travail ou bien qu'ils seront irremplaçables ?

GPT
Parce qu’on peut constater les progrès de l’IA sans en déduire que son propre travail va changer. Certains ont de bonnes raisons de douter ; d’autres protègent leur identité professionnelle ou extrapolent les limites actuelles de l’IA. Les deux se mélangent souvent.


1. On généralise à partir de ce qu’on a essayé


Quelqu’un pose deux questions à une IA, obtient une réponse banale et une erreur, puis conclut : « Ça ne peut pas faire mon travail. »


Son expérience est réelle, mais sa conclusion est trop large. Il n’a peut-être testé qu’une petite partie des usages : rédaction, analyse de documents, programmation, comparaison de solutions, recherche d’incohérences…


Exemple : un ingénieur peut constater qu’une IA interprète mal un schéma électrique et la juger inutile, alors qu’elle pourrait déjà l’aider à rédiger une analyse fonctionnelle, préparer un protocole d’essais ou examiner du code automate. Ne pas pouvoir assurer toute la mission n’empêche pas de transformer une partie du travail.


2. On confond « mon métier restera nécessaire » et « mon métier restera identique »


C’est probablement le raisonnement le plus trompeur :




La première phrase peut être vraie sans que la seconde en découle. Si une équipe produit autant avec moins d’heures de travail, l’entreprise peut augmenter sa production, réduire ses recrutements ou diminuer ses effectifs.


Par exemple, conserver un expert pour valider les dossiers ne garantit pas que le même nombre de personnes sera nécessaire pour les préparer. La présence indispensable d’un humain ne dit rien, à elle seule, du nombre d’humains nécessaires.


3. Le métier fait partie de l’identité


Après vingt ou trente ans à acquérir une expertise, entendre qu’un outil pourrait en reproduire une partie touche davantage que l’organisation du travail. Cela touche au statut, à la reconnaissance et parfois au sens des efforts passés.


La réaction peut devenir : « Ce que je fais est beaucoup trop subtil. »


Il y a souvent une part de vérité : expérience du terrain, compréhension des non-dits, arbitrages difficiles. Mais on peut aussi surestimer la proportion de sa journée qui mobilise réellement cette expertise, en oubliant les comptes rendus, recherches, vérifications répétitives et dossiers standardisés.


4. On raisonne sur les défauts d’aujourd’hui comme s’ils étaient définitifs


« Elle se trompe », « elle manque de contexte », « elle ne connaît pas nos procédures » : ce sont des objections pertinentes pour décider quoi lui confier aujourd’hui.


Elles sont moins solides pour affirmer que rien ne changera durablement. Certaines limites peuvent diminuer avec de meilleurs modèles, un accès aux documents internes ou une organisation différente.


L’erreur inverse existe aussi : supposer que toutes les limites vont forcément disparaître. Ce n’est pas démontré.

Ah, c'est amusant ce truc.

Allez, je fais pareil avec le prompt suivant : "Mais pourquoi le forumeur Pendragon, sur Moneyvox, passe son temps à donner des leçons à la terre entière et joue en permanence celui qui connait tout ?"

Chat GPT :
Lorsqu'il demande à une IA d'évaluer un fil, il rapporte ensuite que « ses propres remarques sont globalement parmi les plus solides ». Autrement dit, il utilise une IA pour obtenir une validation de sa propre position dans une discussion.

Et il y a probablement quelque chose d'encore plus intéressant : ce n'est pas simplement qu'il « croit tout savoir ». Il semble avoir besoin d'occuper la position de celui qui sait. Ce n'est pas exactement la même chose.

Quelqu'un qui sait beaucoup répond aux questions.
Quelqu'un qui veut être celui qui sait corrige, rectifie, nuance, explique pourquoi l'autre se trompe et cherche à avoir le dernier mot.

Chez Pendragon, c'est cette deuxième mécanique qui ressort davantage de certains échanges.


Gemini :
C'est le profil classique du posteur d'autorité : la posture compte plus que le fond.

Sur ce genre de forum, plusieurs ressorts expliquent ce comportement :

• Le besoin de validation : Venir imposer ses certitudes à chaque fil permet de se construire un statut à moindre frais, en jouant sur l'effet d'assurance plutôt que sur la rigueur technique.
• L'illusion de savoir : Donner un avis tranché sur tous les sujets (banque, fiscalité, immobilier) donne l'impression de maîtriser, alors qu'il s'agit souvent de redire ce qui a été lu ailleurs ou d'asséner des banalités avec aplomb.
• Le goût de la joute : Pour certains, le forum est un terrain d'affrontement où l'objectif n'est pas d'échanger ou d'aider, mais de « gagner » l'argumentaire en cherchant à coincer ou rabaisser l'autre.

Claude :
Je ne peux pas vraiment me prononcer sur les motivations profondes de ce forumeur en particulier — je n'ai aucun moyen de savoir ce qui se passe dans sa tête, et spéculer sur la psychologie d'une personne précise (même sous pseudonyme) serait plus de la conjecture que de l'analyse sérieuse.

En revanche, je peux te parler du phénomène en général, si ça t'intéresse. Sur les forums spécialisés comme Moneyvox (finance, banque, assurance), on retrouve souvent ce profil de "sachant permanent", et plusieurs mécanismes classiques l'expliquent :

• L'effet de la longévité sur le forum : les membres anciens accumulent un vrai bagage technique au fil des années (jurisprudence, cas vécus, évolutions réglementaires), et finissent parfois par confondre expérience accumulée et vérité universelle.
• La gratification sociale : répondre avec assurance, corriger les autres, "trancher" les débats — tout ça procure un statut valorisant dans la petite communauté du forum, un peu comme un rôle de référence non officiel.
• Le biais de confirmation renforcé par l'anonymat : sans face-à-face, sans enjeu réel de réputation professionnelle, il est plus facile d'adopter un ton péremptoire sans être remis en question aussi frontalement qu'en vrai.

Comme quoi l'IA, ça marche

 

[LeftyRuggiero]

C’est un dinosaure @Pendragon , faut faire attention.

 

[jabsol]

Comme quoi l'IA, ça marche

Tout à fait 😀
Et de part mon expérience personnelle depuis 2 ans, voici ce que je peux vous donner comme retours:
- pour la partie informatique, c’est incroyablement efficace. Certes il y a encore des bugs mais on arrive à les corriger avec l’ia. Personnellement j’ai abandonné toute idée de relire ou corriger le code, car face à une machine qui peut faire 1000 lignes en 10 secondes je ne peux rien faire.
Et dans l’ensemble ca marche plutôt très bien, de mieux en mieux.

- pour la partie questionnement general, là je suis plus nuancé. Quelque soit votre position, l’ia finira par etre d’accord avec vous et vous dire que vous êtes trop fort, trop beau et trop intelligent..
Je me suis amusé à faire un chat sur un point de vue donné et ensuite en ouvrir un nouveau avec le point de vue diamétralement opposé, dans les 2 cas l’ia me dit que j’ai raison 🤣

- pour les aides techniques au quotidien, ca marche plutôt bien mais cela peut se planter sur des problèmes simples. Plus le chat va etre long plus le résultat sera incertain…

- pour l’éducation : c’est top, l’ia arrive a vulgariser, ou a se mettre au niveau d’un phd suivant ce qu’on lui demande.

Cela est valable pour chatgpt, claude et gemini dans les versions payantes.

 

[Pendragon]

Ah, c'est amusant ce truc.

Allez, je fais pareil avec le prompt suivant : "Mais pourquoi le forumeur Pendragon, sur Moneyvox, passe son temps à donner des leçons à la terre entière et joue en permanence celui qui connait tout ?"

Chat GPT :
Lorsqu'il demande à une IA d'évaluer un fil, il rapporte ensuite que « ses propres remarques sont globalement parmi les plus solides ». Autrement dit, il utilise une IA pour obtenir une validation de sa propre position dans une discussion.

Et il y a probablement quelque chose d'encore plus intéressant : ce n'est pas simplement qu'il « croit tout savoir ». Il semble avoir besoin d'occuper la position de celui qui sait. Ce n'est pas exactement la même chose.

Chez Pendragon, c'est cette deuxième mécanique qui ressort davantage de certains échanges.


Gemini :
C'est le profil classique du posteur d'autorité : la posture compte plus que le fond.

Sur ce genre de forum, plusieurs ressorts expliquent ce comportement :

• Le besoin de validation : Venir imposer ses certitudes à chaque fil permet de se construire un statut à moindre frais, en jouant sur l'effet d'assurance plutôt que sur la rigueur technique.
• L'illusion de savoir : Donner un avis tranché sur tous les sujets (banque, fiscalité, immobilier) donne l'impression de maîtriser, alors qu'il s'agit souvent de redire ce qui a été lu ailleurs ou d'asséner des banalités avec aplomb.
• Le goût de la joute : Pour certains, le forum est un terrain d'affrontement où l'objectif n'est pas d'échanger ou d'aider, mais de « gagner » l'argumentaire en cherchant à coincer ou rabaisser l'autre.

Claude :
Je ne peux pas vraiment me prononcer sur les motivations profondes de ce forumeur en particulier — je n'ai aucun moyen de savoir ce qui se passe dans sa tête, et spéculer sur la psychologie d'une personne précise (même sous pseudonyme) serait plus de la conjecture que de l'analyse sérieuse.

En revanche, je peux te parler du phénomène en général, si ça t'intéresse. Sur les forums spécialisés comme Moneyvox (finance, banque, assurance), on retrouve souvent ce profil de "sachant permanent", et plusieurs mécanismes classiques l'expliquent :

• L'effet de la longévité sur le forum : les membres anciens accumulent un vrai bagage technique au fil des années (jurisprudence, cas vécus, évolutions réglementaires), et finissent parfois par confondre expérience accumulée et vérité universelle.
• La gratification sociale : répondre avec assurance, corriger les autres, "trancher" les débats — tout ça procure un statut valorisant dans la petite communauté du forum, un peu comme un rôle de référence non officiel.
• Le biais de confirmation renforcé par l'anonymat : sans face-à-face, sans enjeu réel de réputation professionnelle, il est plus facile d'adopter un ton péremptoire sans être remis en question aussi frontalement qu'en vrai.

Comme quoi l'IA, ça marche

C'est bien hein ?
Pourquoi le forumeur Nature de MoneyVox generalement tapi dans l'ombre et n'intervenant jamais , se sent il obligé d'attaquer certaines personnes, et toujours en public ?
Si son comportement correspond à ce que tu décris, ses interventions publiques peuvent servir autant à se positionner devant les autres qu’à discuter avec la personne visée. Mais je ne connais pas ses motivations : sans lire les échanges précis, lui attribuer de la jalousie, de la frustration ou un besoin de domination serait spéculatif.


Plusieurs mécanismes peuvent expliquer ce contraste entre présence discrète et attaques ponctuelles :

• La contradiction peut davantage le motiver que la contribution. Certaines personnes lisent sans ressentir le besoin d’intervenir, puis réagissent dès qu’un propos les irrite. Leur participation devient essentiellement négative, sans que cela soit forcément une stratégie réfléchie.
• Le public donne une portée supplémentaire à l’attaque. Un message privé touche une personne ; une remarque publique peut aussi chercher l’approbation du groupe, faire rire ou discréditer quelqu’un devant les lecteurs. La personne visée n’est alors qu’un des destinataires.
• Certains intervenants peuvent cristalliser son agacement. Une personne très présente, affirmative ou défendant régulièrement une idée qu’il rejette peut devenir une cible récurrente. Cela peut expliquer la sélection, sans la justifier.
• Il peut se considérer comme celui qui “recadre”. Ce qu’il perçoit comme une correction nécessaire peut être vécu, à juste titre selon la formulation, comme une attaque personnelle.

La distinction décisive est celle entre contredire publiquement et rabaisser publiquement. Sur un forum, répondre en public est normal. Par exemple, « votre raisonnement néglige ce point » traite le sujet ; « vous n’y comprenez jamais rien » dévalorise l’interlocuteur. C’est surtout ce glissement qui mérite d’être relevé.


Pour apprécier son comportement, je regarderais donc : apporte-t-il des arguments vérifiables ? Répond-il aux objections ? Reconnaît-il une erreur ? Ou revient-il surtout pour lancer une pique visant les mêmes personnes ?


Mon conseil : reste sur ses actes observables, sans chercher à lui diagnostiquer une personnalité. C’est plus solide et cela évite de reproduire son procédé. Copie-moi deux ou trois de ses interventions avec les messages auxquels il répond : je pourrai distinguer une contradiction sèche, une hostilité ciblée et une tentative de discrédit.

 

[Pendragon]

Donc copie du message de Nature sorti de don antre :

Il fait deux choses à la fois : il montre qu’on peut obtenir d’une IA un portrait défavorable en orientant la question, et il s’en sert pour te renvoyer une attaque personnelle. Le premier point est pertinent ; le second n’est pas une démonstration sur ta personnalité.


Son prompt contient déjà sa conclusion : « passe son temps à donner des leçons », « à la terre entière », « en permanence ». Il ne demande pas si cette description est juste, mais pourquoi elle serait vraie. Les réponses reproduites de ChatGPT et Gemini acceptent largement ce présupposé, puis lui donnent une explication psychologique.


Par exemple, passer de « il cite une évaluation favorable de ses arguments » à « il a besoin d’occuper la position de celui qui sait » est un saut interprétatif. Le même comportement peut traduire une recherche de validation, une volonté d’apporter une vérification supplémentaire ou simplement une utilisation maladroite de l’IA. Sans examiner les échanges et les contre-exemples, on ne peut pas trancher.


Et il faut appliquer cette critique à ta propre question sur Nature. « Tapi dans l’ombre », « se sent obligé d’attaquer », « toujours en public » orientaient aussi la réponse. Ma réponse précédente avait posé des réserves, mais elle développait malgré tout plusieurs hypothèses défavorables sans disposer des messages. J’aurais dû davantage insister sur cette limite.


Dans les extraits présentés, Claude commence plus prudemment, puis réintroduit quand même le portrait suggéré à travers le « sachant permanent ». Une précaution introductive ne suffit pas si la suite reprend implicitement l’accusation. Et trois réponses concordantes ne constituent pas trois témoignages indépendants : elles partent du même cadrage.