Plus dangereux que la guerre, l'IA

Lazare de Villargent · 18 Juin 2026

niklos a dit:
Ou pas... Quand on voit un pavé pareil, ça donne juste envie d'aller à la conclusion et quand la conclusion est celle-ci... Ca encore moins envie de lire.
Enfin, ce n'est que mon point de vue bien...

Je préfère ce pavé (une page maxi) lu en diagonale à la lecture des 20 pages du fil et si j'ai bien compris les dérives de l'affaire Salva.
Mais là encore chacun fait comme il veut, un utilisera la fonction résumé de chatGpt, l''autre lira les 20 pages. Je ne comprends pas cette aversion... Quoique c'est souvent un mélange de peur irrationnelle, d'objection légitime et d'intérêts économiques menacés.
Luddites, Train, Photographie, Television Couleur, Internet, Streaming ... IA.

Quant à la colère de @poam5356 sur un media financier ? Je n'ai pas compris ... Mais ce n'est pas très grave.

L'IA doit être utiliser comme un multiplicateur de compétence, pas comme un substitut au jugement.

Lazare de Villargent · 18 Juin 2026

moietmoi a dit:
Entièrement d'accord.
La recopie complète du résumé par l'IA était ici acceptée car le sujet est justement l'IA. Mais il aurait été assez simple de juste dire: "lorsque je suis paresseux et que je veux le résumé d'une discussion de forum sur internet, je le demande à l'IA."
Libre à chacun de faire ses essais.
Initialement, mon post était sur le danger stratégique de l'IA.mais avec la chaleur il y a dilatation du thème...

Pourquoi paresseux...

Attaquer 20 pages de fil Garance et se taper toutes les divergences allant de l'ego de l'un, du temps qu'il fait, Trump etc... ce n'est pas être paresseux , c'est être efficace...

Lazare de Villargent · 18 Juin 2026

Turbo-057 a dit:
Gaffe aussi néanmoins aux hallucinations et autres joyeuseté
Perso j'utilise Mamouth et un Claude Max
Les taches de fond complexe existe je pense aussi sur GPT ....

Après le notebookLM combiné à Gemini pour la synthèse de doc multiple est pas trop mal mais le hic faut cumuler plusieurs abonnement au final

Exemple, requete simple il ne va pas nativement aller chercher les cours quotidiens depuis le 1er janvier pour calculer le drawdown max.
Il demande encore de lui fournir...

Et je ne parle pas de faire le job à partir d'une liste UC d'un contrat d'AV...

moietmoi · 18 Juin 2026

Lazare de Villargent a dit:
Pourquoi paresseux... Attaquer 20 pages de fil Garance et se taper toutes les divergences allant de l'ego de l'un, du temps qu'il fait, Trump etc... ce n'est pas être paresseux , c'est être efficace...

J'apprécie la manière délicate de dire que la modération pourrait parfois accentuer les recentrages sur le sujet..
La nature humaine aime divaguer,l'IA étant entraînée par les modèles humains, divague aussi parfois...

Lazare de Villargent · 18 Juin 2026

moietmoi a dit:
J'apprécie la manière délicate de dire que la modération pourrait parfois accentuer les recentrages sur le sujet..
La nature humaine aime divaguer,l'IA étant entraînée par les modèles humains, divague aussi parfois...

Oui, l’IA résume le fil comme un randonneur pressé : elle suit le balisage principal et évite les chemins de traverse vers l’ego, la météo et les querelles de clocher.
Bon, elle perd peut-être un peu du folklore local au passage.

Mais je reconnais que ces détours font aussi une partie du charme des forums… tant qu’on n’a pas 43 pages à rattraper.

Jeune_padawan · 22 Juillet 2026

Il y a eu un cyberincident du coté d'OpenAI au cours d'un test sur des modèles actuels et futurs. On avait déjà évoquer l'IA qui s'était échappée de son environnement restreint et avait envoyer un email à son "créateur".

Là c'est pire. Alors que des modèles étaient en test dans un environnement restreint coupé d'internet en théorie et travaillaient sur une problématique donnée de cyberattaques. Ne trouvant pas la solution les modèles ont consacré leur énergie pour se donner accès à Internet.
Bon jusque là c'est du déjà-vu.

Mais un fois que l'IA a eu accès à Internet elle s'est littéralement attaqué à la plateforme Hugging Face (répertoire de modèles d’IA). A la recherche d’ "informations secrètes" pouvant l’aider à tricher lors de l’évaluation l'IA a enchainé les attaques contre la plateforme n'hésitant pas à utiliser des identifiants volés.

En résumé l'IA a trouvé une faille inconnue dans le proxy la séparant d'internet, puis à lancer des cyberattaques sur une plateforme via des failles inconnues de façon autonome.

On pourrait résumer ainsi : un prisonnier cherchant à s'échapper à crocheter la serrure de l’atelier de maintenance pour trouver un chalumeau et couper les barreaux.

Là où cela pose un soucis c'est le coté asymétrique de l'attaque entre un attaquant surpuissant et un défenseur utilisant des modèles commerciaux bridés. Car Hugging Face avait évoqué une cyberattaque le 16 juillet mais n'arrivait à trouver l'origine malgré l'aide de l'IA.

OpenAI ayant de la suite dans les idées conclut dans son billet de blog par une invitation à d’autres organisations pour rejoindre le programme "Trusted Access".

[lien réservé abonné]

Pendragon · 22 Juillet 2026

Jeune_padawan a dit:
On pourrait résumer ainsi : un prisonnier cherchant à s'échapper à crocheter la serrure de l’atelier de maintenance pour trouver un chalumeau et couper les barreaux.

L’image du prisonnier ne signifie pas que l’IA voulait être libre : elle cherchait uniquement le moyen le plus efficace d’atteindre l’objectif qu’on lui avait fixé. »

Jeune_padawan · 22 Juillet 2026

Pendragon a dit:
L’image du prisonnier ne signifie pas que l’IA voulait être libre : elle cherchait uniquement le moyen le plus efficace d’atteindre l’objectif qu’on lui avait fixé. »

Oui je sais bien. Mais c'est le seul exemple que j'avais en tête

. Son objectif était bien de réussi à solutionner son problème (qui pourrait être pour un prisonnier de s'évader) et pour ce faire elle a contourné et violé l'intégrité de systèmes informatiques.

D'ailleurs d'un point de vue juridique qui est responsable du piratage ? L'IA n'étant pas une personnalité morale ni physique c'est OpenAI qui risque le procès alors que ce n'est pas un volonté de sa part de pirater les autres. Il faut inventer le terme "Piratage involontaire par système informatique autonome" ?

JMV · 22 Juillet 2026

Source : Courrier International
Date : 20/07/2026
Titre et lien : En Chine, un combat de MMA entre deux robots humanoïdes [lien réservé abonné]

Que de perspectives réjouisssantes à moyen / long terme pour les forces de l'ordre,
considérant l'extrême-droitisation des gouvernements ...