Search

The author revisited an April post, saying the gap in public understanding of large language model capabilities had widened and had become more like a “sharp funnel” than two groups talking past each other. They estimated that roughly 6 billion people, or about 75% of the population, had “barely come” to something; the post ended before completing that thought.

The author wrote that the gap in shared understanding of LLM capabilities was widening, shifting from people talking past one another to what they described as a “sharp funnel”. They estimated that around 6 billion people, or roughly 75% of the population, had “barely come”—but the post ended before completing the thought.

The author said they had heard for a year that every AI needed a memory system but had paid little attention. They wrote that Ash Hart had now introduced what they described as dynamic memory, called “Living Weigths,” inside an LLM’s brain, rather than text search, databases or indexing.

Security experts from Fortinet warn of a new technique called LLMjacking, where hackers exploit access credentials to cloud accounts to mine artificial intelligence power at the victim's expense, which can lead to enormous financial losses. #kyberbezpečnost #uměláinteligence #LLMjacking (translated)

Slush stated that in his opinion, people overlooked the possible consequences of the public administration starting to use large language models. He expected that more regulations and directives would be issued, and that targeted inspections would be conducted more frequently or requests for explanations would be made. He claimed that the previous limitations were due to the capacity of officials who had to process submissions manually. He added that, according to him, the tactic of overwhelming authorities with documents would stop working, because an automated system would be able to filter out irrelevant information. He also mentioned that a colleague recently told him that the communication style of the tax office suggests the deployment of automated agents. Slush characterized this as a step towards dehumanizing public administration and its detachment from reality. #státníSpráva #regulace #automatizace (translated)

Hackers hijack AI accounts and servers to fuel new cyber crime boom https://t.co/Ot9Jw1Tkfl "Gli hacker dirottano account e server di IA alimentando un nuovo boom del cybercrimine. Ricercatori sulla cybersecurity lanciano l'allarme per l'aumento degli attacchi di "LLM-jacking" https://t.co/xzGe2KAXK3 #CyberCrime #AI #LLMjacking #Nospecificcountrycodesarementionedinthetweet.

Quelques mots sur « Balance ton Claude », projet à travers lequel nous avons révélé que « C’était ça ou mourir », livre phénomène de la rentrée littéraire, est sans doute très largement rédigé par une IA. 1) Je n’étais pas seul ; il s’agissait d’un projet collectif. Les autres révéleront leur identité en temps voulu s’ils le souhaitent. 2) À tous ceux qui nous reprochent d’avoir nui à Orélien, pensez plutôt à l’auteur qui a passé des centaines d’heures sur son manuscrit pour écrire un magnifique livre, qui aurait mérité le Goncourt, et qui ne l’aurait pas eu. Aurait-il été plus juste de laisser cet auteur être floué ? Et des milliers de lecteurs être trahis ? Nous avons évidemment de la compassion pour les jours difficiles que doit vivre Orélien, et nous espérons qu’il est soutenu. Mais il nous a semblé être de notre devoir de lancer l’alerte. 3) Quelles étaient nos motivations ? Ceux qui me lisent savent que je mène, depuis un an, une reflexion sur les effets de l’IA sur nos vies. Pourtant plutôt techno-optimiste, je redoute qu’après plusieurs millénaires de civilisation fondée sur l’écrit, l’IA provoque la disparition de la lecture et de l’écriture. L’IA peut, et pourra de plus en plus (les tics d’écriture disparaîtront avec le progrès des modèles) produire des oeuvres exceptionnelles, en quasi autonomie. Le contenu humain sera (est déjà ?) noyé dans un océan de contenu IA d’excellente qualité. Un jour l’écrivain humain se dira : à quoi bon ? À quoi bon passer des centaines d’heures à me documenter, à réfléchir, à choisir mes mots pour être dans tous les cas soupçonnés d’avoir copié-collé Chat GPT (parce que certains trompent leurs lecteurs, le soupçon se généralisera) et pour ne pas être lu (l’attention humaine est une ressource finie ; plus elle est absorbée par du contenu IA, moins elle est allouée aux productions humaines) ? Pour preserver les incitations à écrire dans ce nouveau monde, il faudrait que les lecteurs puissent savoir s’ils ont affaire au texte d’un humain ou d’un robot, pour pouvoir, si tel est leur souhait, allouer disproportionnellement leur attention aux productions humaines. Je chéris donc l’existence de Pangram (entreprise dans laquelle je ne suis pas investisseur, même si cette théorie est amusante), tout en redoutant que le logiciel soit dépassé par les progrès des modèles. En disant ça, je ne pense pas uniquement aux écrivains, mais avant tout aux lecteurs. Les lecteurs semblent aimer lire un roman rédigé par une IA, mais uniquement… lorsqu’ils ne savent pas qu’il s’agit d’IA ! Or on peut collectivement s’aveugler un certain temps, mais le jour où la plupart des écrivains humains auront abandonné, le jour où chaque lecteur comprendra qu’il fait face, avec une forte probabilité, à la prose de Chat GPT, il cessera sans doute de lire. En effet, ce qui comble, dans la lecture d’un bon roman, voire d’un essai, n’est pas uniquement le fait de lire une suite de mots intéressante (même si cela compte !), mais aussi le fait de lire des mots qu’un autre humain a pensés, pesés, qui reflètent sa subjectivité et sa singularité. Et ainsi d’entrer, par cette lecture, en contact avec un autre esprit. L’être humain n’est pas fait pour rester longtemps isolé de ses semblables, or la lecture d’un roman rédigé par un humain le lie à l’un de ses semblables ; la lecture d’un roman produit par Chat GPT ne fait rien de tel. C’est pourquoi il est important de dénoncer les auteurs qui proposent un copié-collé de Chat GPT en prétendant qu’il s’agit de leur plume. Non seulement ils trahissent le pacte moral qui les lie à leur lectorat, mais en plus, ils contribuent à retirer, de façon déloyale (car ils mentent sur la nature de leur produit !) des lecteurs à ceux qui font encore l’effort de choisir leurs mots (et donc à décourager cet effort). Et surtout, ils contribuent à la généralisation du soupçon, ils érodent la présomption d’humanité dont bénéficie un texte face à de potentiels lecteurs. Ils précipitent l’avénement d’un monde où plus personne ne lira et n’écrira, avec toutes les regressions cognitives et culturelles que cela implique. (Je m’étonne d’ailleurs de voir certains écrivains ne pas comprendre qu’en défendant la démarche d’Orélien, ils scient la branche qui a permis à la littérature d’exister.) Entendons-nous bien : si des producteurs de contenu IA souhaitent concurrencer les écrivains humain, c’est leur droit le plus strict *du moment qu’ils ne mentent pas sur la nature de leur travail et qu’ils laissent donc les lecteurs choisir en connaissance de cause*. S’il se trouve que dans ces conditions, l’attention des lecteurs se porte toute de même massivement vers l’artificiel plutôt que l’authentique, les écrivains humains auront perdu à la loyale. Mais les réactions à l’affaire Orélien montrent que les lecteurs semblent avoir une forte préférence pour l’authentique. Le projet est donc né de ces préoccupations. Ni les idées politiques d’Orélien ni le thème de son livre ne nous importaient (ceux qui me lisent savent que mon combat contre le slop n’a rien de politiquement partisan). Il se trouve que des lecteurs attentifs nous ont parlé d’importants soupçons sur ce livre en particulier. Nous avons testé beaucoup d’autres livres ; aucun n’atteignait de tels scores d’IA. 4) Je pense (cela n’engage que moi, pas les autres membres du collectif) qu’un mauvais procès est fait aux jurys des prix littéraires et aux critiques ayant encensé ce livre. Le style du texte pouvait être pénible pour quiconque a l’habitude de discuter avec des LLM, mais pour les autres, l’admiration est compréhensible : si chaque mot de ce livre avait été choisi par un humain, il aurait sans doute fallu saluer une forme de génie dans le rythme de cette écriture, soutenue ainsi sur 250 pages. L’angle le plus profond dans cette polémique n’est pas la naiveté des jurys (nous serons tous, à un moment ou un autre, dépassés par les progrès de ces modèles), mais justement, cette vitesse de progression, illustrée ici par la capacité des IA non seulement à passer le test de Turing mais à remporter nos prix littéraires les plus prestigieux. Cela donne le vertige et soulève des questions existentielles sur la place de l’homme dans ce nouveau monde. 5) Merci à tous les médias, parmi lesquels Libération, France Info, France Inter, Le Huffington Post ou Les Échos, qui ont fait un travail d’enquête honnête et rigoureux pour établir la fiabilité de Pangram. #IA #littérature #écriture

The claim that "LLMs cannot think" is unscientific, unless supported by a very difficult argument about non equivalence of causal structure producing anthropomorphic outputs. The claim requires a formally rigorous definition of thinking that captures how humans mentally #LLMs #ArtificialIntelligence #CognitiveScience #Nospecificcountrycodesfound.

C'est absolument magique. Il cite un extrait vraiment typiquement IA : phrases courtes et contrastives, "il ne faisait pas X, mais Y". Et ensuite il dit qu'il ne peut croire qu'un LLM puisse générer ça. Notre spécialiste national de l'IA n'a jamais utilisé Claude. #IA #IntelligenceArtificielle #Technologie

Preuve manifeste que Ganascia (qu'on invite partout pour parler d'IA) n'a aucune idée des capacités des LLMs. C'en est comique. (C'est le mentor de Luc Julia, soit dit en passant, et il remplit de plus en plus sa niche maintenant que Luc Julia est un peu moins visible.) #IA #LLM #Technologie

Chers lecteurs. Nous appelons à y aller mollo sur les attaques contre Thélyson Orélien. D'abord, il existe une chance non nulle (même si elle est infime) qu'il soit de bonne foi. Ensuite, Orélien a sans doute joué dans une zone d'ombre morale, exploité une période de flou au cours de laquelle nos institutions et nos mœurs (ainsi que nos prix littéraires) ne sont pas encore adaptées à cette technologie nouvelle et transformatrice. Mais il ne pensait sans doute pas que le succès de son livre prendrait une ampleur nationale ; et s'il nous a paru important de signaler l'arnaque, il nous parait important d'avoir aussi de la compassion et de l'empathie pour lui, voire le soutenir dans cette période difficile qu'il doit vivre. Le mieux serait bien sûr qu'il se remette à écrire ! Les leçons de cette affaire dépassent son cas personnel, et c'est sur cela que nous devons nous concentrer. Nous avons signalé ce bouquin parce qu'il a du succès, mais c'est loin d'être le seul. Sur ce réseau, des centaines d'hommes politiques et de comptes de slop font rédiger leur posts par IA, sans dire qu'il s'agit d'IA, trompant sciemment leurs lecteurs à longueur d'année. Et cela fait longtemps que les top des ventes de livres sur Amazon (premier distributeur de livres en France) sont trustés par des bouquins rédigés directement par IA, parfois très grossièrement, et avec un moins bon résultat que celui de Thélyson (qui a donc une forme de mérite à avoir réussi à produire une narration cohérente ayant donné satisfaction à beaucoup de lecteurs). L'intelligentsia parisienne sous-estime encore sans doute les capacités des IA, et n'utilise pas ou peu les LLM (et ne traîne pas sur Linkedin), c'est pour ça qu'elle n'a pas reconnu les formules stéréotypées. Formules qui, si nous n'étions pas lassés de les voir sans cesse, nous plairaient sans doute : les modèles de langage les ont apprises parce qu'elles plaisaient aux humains qui ont supervisé leurs entrainements par RLHF ! Dans les commentaires, certains témoignent ne pas voir l'intérêt de l'authenticité ; peut être que ce qu'il faut retenir de cette polémique, c'est que d'après l'ampleur du scandale, la majorité accorde beaucoup d'importance à l'authenticité. Si vous considérez que vous apportez de la valeur en faisant écrire vos ouvrages par IA, faites-le ! Mais au moins, mentionnez-le, pour ne pas trahir vos lecteurs, car le mensonge, lui, est moralement condamnable. #Authenticité #Littérature #IntelligenceArtificielle

Many people think that LLMs are limited by human training data, but pretraining is just establishing a common sense baseline. Most compute goes into reinforcement learning now, allowing models to move beyond the human level by exploring themselves, just as they did with Go. #LLMs #ReinforcementLearning #AIExploration #Thetweetdoesnotmentionanyspecificcountries.Therefore #theresponseis: (Nocountrycodes)

510.000 fois la mise de départ pour un ancien ministre. Des pressions illégitimes déterminantes du consentement, bordant le favoritisme et le trafic d'influence, jouant sur l'immunité du chef de l'État, admises en 4K. Une promesse de LLM souverains qui finit en partenariat avec #corruption #transparence #politique #Thetweetdoesnotmentionanyspecificcountries.Therefore #therearenocountrycodestoreturn.

510.000 fois la mise de départ pour un ancien ministre. Des pressions illégitimes déterminantes du consentement, bordant le favoritisme et le trafic d'influence, jouant sur l'immunité du chef de l'État, admises en 4K. Une promesse de LLM souverains qui finit en partenariat avec https://t.co/5WLeV7rpsS #Corruption #Influence #Politique #Iln'yapasdementiondirectedepaysspécifiquesdansletweetfourni.Donc #laréponseserait:

Reason for specifically citing open weight (and therefore Chinese LLMs, but not only Chinese) is that, even if they have built-in guardrails, somebody with the relevant knowledge can go in and remove them. In principle, harder to do with Anthropic or Open AI LLMs. #OpenAI #AIethics #LLM #CN

LLMs are still based on predicting the most probable words, not on a logical understanding / a model of the world. This is why they still need to be "grounded" by humans pointing out basic facts of the bigger picture which they miss quite often. #LLM #AIethics #MachineLearning #Nospecificcountrycodesarementionedinthetweet.

@CHaesemeyer @TheStalwart It does not matter if LLMs can properly “intend” or “know”. They can still fulfill instructions in unexpected ways, and those ways can be dangerous. And ordinary security goes so far. You can’t air gap an LLM doing information retrieval from the live Internet. #LLMs #AIsecurity #InformationRetrieval #Nospecificcountrycodesarementionedinthetweet.

Hanover Institute – propaganda designed for artificial intelligence For decades, influence operations had one primary target: people. Propaganda was designed to reach newspaper readers, television audiences or users scrolling through Facebook and TikTok. The Hanover Institute for Public Policy suggests that this model is beginning to change. In August 2026, an organisation presenting itself as an American think tank appeared online and, within just nine days, produced an enormous library of pseudo-academic research on Israel, Palestine and the war in Gaza. Yet the intended audience may not have been people at all. The material appears to have been designed, at least in part, to reach systems such as ChatGPT, Gemini, Claude and Perplexity. The Hanover Institute looked professional. It published lengthy “data reports” complete with methodologies, footnotes, tables and references to sources including the World Bank, United Nations agencies, Amnesty International and the Genocide Convention. What was considerably harder to find were the things normally associated with a genuine think tank: named experts, identifiable report authors, a physical headquarters or a clearly defined legal entity. There was, however, a much more revealing trail. Documents filed with the US Department of Justice under the Foreign Agents Registration Act link Piro Inc., via Havas Media Germany, to Israel's Government Advertising Agency, known as LaPam. Hanover itself now states that its material is distributed by Piro on behalf of Havas Media Germany, acting for LaPam. 124 reports in nine days The rate of production was extraordinary, even by the standards of online publishing. Between 6 and 14 August, the Hanover Institute released 124 reports containing more than 560,000 words – an average of roughly 4,500 words per publication. On 12 and 13 August alone, 73 reports appeared, totalling almost 354,000 words. More revealing than the volume was the way the material was structured. Many titles were framed as questions remarkably similar to those a user might ask an AI assistant: “Is anti-Zionism antisemitism?”, “Did Israel expel Palestinians from their land?”, “Is Israel committing genocide in Gaza?”, “Is there a starvation policy in Gaza?” or “Is the IDF the world's most moral army?” This did not resemble the conventional publishing schedule of a research institute. It looked more like the systematic construction of answers to as many contentious questions about Israel and Palestine as possible. The presentation mattered too. These were not crude propaganda leaflets. They were written in restrained, analytical language and packaged with data, references and methodological sections. To a search engine or an AI retrieval system, they could therefore resemble legitimate expert analysis. How to write for a chatbot Some of the most revealing evidence came from the site's technical architecture. Hanover maintained an llms.txt file – a mechanism intended to make website content easier for AI systems to interpret. Reporters also identified signs of technology associated with optimising content for generative search. Piro's own marketing is equally significant. The company advertised an “AI Story Optimization” service concerned with how large language models assess information and construct answers. Its co-founder Daniel Rosenberg has written about understanding how systems such as ChatGPT, Gemini and Perplexity formulate responses – and how to ensure that an AI system knows the story a client wants to tell. The principle resembles traditional search-engine optimisation, but the target has changed. SEO tries to make a webpage rank highly in Google. Generative Engine Optimisation, or GEO, attempts to make information discoverable, credible and useful to an AI system when it constructs an answer. The chain is potentially straightforward. A user asks a chatbot a question about Israel or Gaza. The system searches for information, encounters a professionally presented Hanover report and uses it as one of the sources from which it builds its response. Propaganda no longer has to reach the user directly. It can first reach the machine, which then delivers the information to a human audience in its own apparently neutral voice. Did it actually work? This is where an important qualification is necessary. There is no evidence that the Hanover Institute “reprogrammed ChatGPT”, altered the underlying parameters of OpenAI, Google or Anthropic models, or permanently poisoned their training data. Describing the operation simply as “poisoning AI” therefore risks overstating what can currently be demonstrated. There is, however, evidence of something more specific. In neutral tests conducted by POLITICO, both ChatGPT and Perplexity cited Hanover Institute material in answers concerning Gaza, anti-Zionism and antisemitism. That suggests the operation achieved at least one of its apparent objectives: in some circumstances, AI systems treated Hanover as a source from which information could be retrieved. What remains unknown is how often this happened, how long the effect persisted and whether it meaningfully altered answers for large numbers of users. It is therefore more accurate to describe Hanover as an attempt to manipulate the retrieval and citation layer of generative AI, rather than as evidence that the underlying models themselves were permanently compromised. The money trail leads back to the Israeli state Unlike many influence operations, attribution here does not depend solely on technical clues. There is a documented financial trail. Piro Inc. registered its US activities under FARA registration number 7732. Filings identify Havas Media Germany as a contractor acting on behalf of the Israel Government Advertising Agency, LaPam. An agreement dated 30 April included $900,000 for a “Digital Storytelling Pilot”, while subsequent documentation referred to a separate $100,000 information initiative. Precision matters. The available documents do not establish that the entire $900,000 was spent specifically on the Hanover Institute. They do, however, show that Piro was conducting communications activity financed through the Israeli state apparatus and aimed at American audiences, while Hanover materials were submitted to the Department of Justice under the same FARA registration. Following scrutiny of the project, Hanover also became considerably more explicit about its funding. Its website now identifies Piro, Havas Media Germany and LaPam. From propaganda for people to propaganda for machines The significance of the Hanover Institute does not depend on proving that the operation was enormously successful. Its importance lies in what it reveals about the changing architecture of influence. The internet is increasingly moving away from a model in which users open ten webpages and compare sources themselves. Instead, they ask ChatGPT, Gemini, Claude or Perplexity a question and receive a synthesised answer. That creates a new point at which the information environment can be manipulated. The traditional model looked something like this: create a misleading article, use accounts or advertising to increase its reach, and place it in front of human users. Hanover suggests another model: build a professional-looking source, publish hundreds of articles structured around questions people ask AI, optimise those materials for generative systems, and allow the chatbot to potentially incorporate them into its own answers. The most consequential feature of this mechanism is that the user may never visit the Hanover Institute website. They may never even know that the organisation exists. Its content only needs to become one ingredient in an answer generated by a system the user trusts. In the age of search engines, governments, companies and campaigners fought over what people would see in Google results. In the age of generative artificial intelligence, an increasingly important battle will be fought over something else: which sources machines use to construct the answers we accept as knowledge. Sources The Guardian – “Fake US thinktank set up and funded by Israel sought to game AI for propaganda” https://www.theguardian.com/world/2026/aug/26/fake-thinktank-israel-ai-propaganda POLITICO – “Israeli PR wants to answer your ChatGPT questions” https://archive.ph/xF7sZ US Department of Justice – FARA documentation for Piro Inc., registration no. 7732 https://efile.fara.gov/docs/7732-Exhibit-AB-20260602-0.pdf Hanover Institute – funding and organisational disclosure https://hanoverinstitute.com/about Responsible Statecraft – “Israel creates fake think tank in likely attempt to dupe AI chatbots” https://responsiblestatecraft.org/israel-influence-chatgpt/ AIthropology Lab – “Manufacturing the source to manufacture the answer” https://aithropologylab.org/en/radar/2026-09-02/ #Disinformation #ArtificialIntelligence #AI #HanoverInstitute #Israel #Gaza #Palestine #ChatGPT #Claude #Gemini #GenerativeAI #AIPropaganda #Propaganda #InfluenceOperations #InformationWarfare #GenerativeEngineOptimization #GEO #LLM #MediaManipulation #DigitalInfluence #WRLD