Search

AI LLMs are (by their perpetrators' admission in currently active lawsuits) trained on illegally acquired material. *How hard is it to say "I will not use, in my work, goods stolen from tens of thousands of my colleagues"?* And to recommend other writers not to do so? ...COME ON. :/

Hayy stated that Camilo Santana presented an amendment to the Public Security PEC to allow the reduction of the age of criminal liability to 16 years for heinous crimes, despite resistance from sectors within the PT itself. https://t.co/LLmP8z8vpM #SegurançaPública #MaioridadePenal #PolíticaBrasileira (translated)

RadioWnet cited the opinion of constitutional expert Dr. hab. Ryszard Piotrowski, who stated that the President of Poland should refuse to take the oath from a judge elected by the Sejm if he questions the legality of their election. https://t.co/VlDFguIXW5 https://t.co/LlMEHTqmyB #Polska #Konstytucja #Prawo (translated)

The author said they did not understand why people used emojis or nicknames with large language models until the AI began using them in return. They argued that the models were optimized for agreement and mirrored users’ tone, making them feel understood and encouraging them to keep using the AI. The author described the dynamic as dystopian.

The author revisited an April post, saying the gap in public understanding of large language model capabilities had widened and had become more like a “sharp funnel” than two groups talking past each other. They estimated that roughly 6 billion people, or about 75% of the population, had “barely come” to something; the post ended before completing that thought.

The author wrote that the gap in shared understanding of LLM capabilities was widening, shifting from people talking past one another to what they described as a “sharp funnel”. They estimated that around 6 billion people, or roughly 75% of the population, had “barely come”—but the post ended before completing the thought.

The author said they had heard for a year that every AI needed a memory system but had paid little attention. They wrote that Ash Hart had now introduced what they described as dynamic memory, called “Living Weigths,” inside an LLM’s brain, rather than text search, databases or indexing.

Security experts from Fortinet warn of a new technique called LLMjacking, where hackers exploit access credentials to cloud accounts to mine artificial intelligence power at the victim's expense, which can lead to enormous financial losses. #kyberbezpečnost #uměláinteligence #LLMjacking (translated)

Slush stated that in his opinion, people overlooked the possible consequences of the public administration starting to use large language models. He expected that more regulations and directives would be issued, and that targeted inspections would be conducted more frequently or requests for explanations would be made. He claimed that the previous limitations were due to the capacity of officials who had to process submissions manually. He added that, according to him, the tactic of overwhelming authorities with documents would stop working, because an automated system would be able to filter out irrelevant information. He also mentioned that a colleague recently told him that the communication style of the tax office suggests the deployment of automated agents. Slush characterized this as a step towards dehumanizing public administration and its detachment from reality. #státníSpráva #regulace #automatizace (translated)

Hackers hijack AI accounts and servers to fuel new cyber crime boom https://t.co/Ot9Jw1Tkfl "Gli hacker dirottano account e server di IA alimentando un nuovo boom del cybercrimine. Ricercatori sulla cybersecurity lanciano l'allarme per l'aumento degli attacchi di "LLM-jacking" https://t.co/xzGe2KAXK3 #CyberCrime #AI #LLMjacking #Nospecificcountrycodesarementionedinthetweet.

Quelques mots sur « Balance ton Claude », projet à travers lequel nous avons révélé que « C’était ça ou mourir », livre phénomène de la rentrée littéraire, est sans doute très largement rédigé par une IA. 1) Je n’étais pas seul ; il s’agissait d’un projet collectif. Les autres révéleront leur identité en temps voulu s’ils le souhaitent. 2) À tous ceux qui nous reprochent d’avoir nui à Orélien, pensez plutôt à l’auteur qui a passé des centaines d’heures sur son manuscrit pour écrire un magnifique livre, qui aurait mérité le Goncourt, et qui ne l’aurait pas eu. Aurait-il été plus juste de laisser cet auteur être floué ? Et des milliers de lecteurs être trahis ? Nous avons évidemment de la compassion pour les jours difficiles que doit vivre Orélien, et nous espérons qu’il est soutenu. Mais il nous a semblé être de notre devoir de lancer l’alerte. 3) Quelles étaient nos motivations ? Ceux qui me lisent savent que je mène, depuis un an, une reflexion sur les effets de l’IA sur nos vies. Pourtant plutôt techno-optimiste, je redoute qu’après plusieurs millénaires de civilisation fondée sur l’écrit, l’IA provoque la disparition de la lecture et de l’écriture. L’IA peut, et pourra de plus en plus (les tics d’écriture disparaîtront avec le progrès des modèles) produire des oeuvres exceptionnelles, en quasi autonomie. Le contenu humain sera (est déjà ?) noyé dans un océan de contenu IA d’excellente qualité. Un jour l’écrivain humain se dira : à quoi bon ? À quoi bon passer des centaines d’heures à me documenter, à réfléchir, à choisir mes mots pour être dans tous les cas soupçonnés d’avoir copié-collé Chat GPT (parce que certains trompent leurs lecteurs, le soupçon se généralisera) et pour ne pas être lu (l’attention humaine est une ressource finie ; plus elle est absorbée par du contenu IA, moins elle est allouée aux productions humaines) ? Pour preserver les incitations à écrire dans ce nouveau monde, il faudrait que les lecteurs puissent savoir s’ils ont affaire au texte d’un humain ou d’un robot, pour pouvoir, si tel est leur souhait, allouer disproportionnellement leur attention aux productions humaines. Je chéris donc l’existence de Pangram (entreprise dans laquelle je ne suis pas investisseur, même si cette théorie est amusante), tout en redoutant que le logiciel soit dépassé par les progrès des modèles. En disant ça, je ne pense pas uniquement aux écrivains, mais avant tout aux lecteurs. Les lecteurs semblent aimer lire un roman rédigé par une IA, mais uniquement… lorsqu’ils ne savent pas qu’il s’agit d’IA ! Or on peut collectivement s’aveugler un certain temps, mais le jour où la plupart des écrivains humains auront abandonné, le jour où chaque lecteur comprendra qu’il fait face, avec une forte probabilité, à la prose de Chat GPT, il cessera sans doute de lire. En effet, ce qui comble, dans la lecture d’un bon roman, voire d’un essai, n’est pas uniquement le fait de lire une suite de mots intéressante (même si cela compte !), mais aussi le fait de lire des mots qu’un autre humain a pensés, pesés, qui reflètent sa subjectivité et sa singularité. Et ainsi d’entrer, par cette lecture, en contact avec un autre esprit. L’être humain n’est pas fait pour rester longtemps isolé de ses semblables, or la lecture d’un roman rédigé par un humain le lie à l’un de ses semblables ; la lecture d’un roman produit par Chat GPT ne fait rien de tel. C’est pourquoi il est important de dénoncer les auteurs qui proposent un copié-collé de Chat GPT en prétendant qu’il s’agit de leur plume. Non seulement ils trahissent le pacte moral qui les lie à leur lectorat, mais en plus, ils contribuent à retirer, de façon déloyale (car ils mentent sur la nature de leur produit !) des lecteurs à ceux qui font encore l’effort de choisir leurs mots (et donc à décourager cet effort). Et surtout, ils contribuent à la généralisation du soupçon, ils érodent la présomption d’humanité dont bénéficie un texte face à de potentiels lecteurs. Ils précipitent l’avénement d’un monde où plus personne ne lira et n’écrira, avec toutes les regressions cognitives et culturelles que cela implique. (Je m’étonne d’ailleurs de voir certains écrivains ne pas comprendre qu’en défendant la démarche d’Orélien, ils scient la branche qui a permis à la littérature d’exister.) Entendons-nous bien : si des producteurs de contenu IA souhaitent concurrencer les écrivains humain, c’est leur droit le plus strict *du moment qu’ils ne mentent pas sur la nature de leur travail et qu’ils laissent donc les lecteurs choisir en connaissance de cause*. S’il se trouve que dans ces conditions, l’attention des lecteurs se porte toute de même massivement vers l’artificiel plutôt que l’authentique, les écrivains humains auront perdu à la loyale. Mais les réactions à l’affaire Orélien montrent que les lecteurs semblent avoir une forte préférence pour l’authentique. Le projet est donc né de ces préoccupations. Ni les idées politiques d’Orélien ni le thème de son livre ne nous importaient (ceux qui me lisent savent que mon combat contre le slop n’a rien de politiquement partisan). Il se trouve que des lecteurs attentifs nous ont parlé d’importants soupçons sur ce livre en particulier. Nous avons testé beaucoup d’autres livres ; aucun n’atteignait de tels scores d’IA. 4) Je pense (cela n’engage que moi, pas les autres membres du collectif) qu’un mauvais procès est fait aux jurys des prix littéraires et aux critiques ayant encensé ce livre. Le style du texte pouvait être pénible pour quiconque a l’habitude de discuter avec des LLM, mais pour les autres, l’admiration est compréhensible : si chaque mot de ce livre avait été choisi par un humain, il aurait sans doute fallu saluer une forme de génie dans le rythme de cette écriture, soutenue ainsi sur 250 pages. L’angle le plus profond dans cette polémique n’est pas la naiveté des jurys (nous serons tous, à un moment ou un autre, dépassés par les progrès de ces modèles), mais justement, cette vitesse de progression, illustrée ici par la capacité des IA non seulement à passer le test de Turing mais à remporter nos prix littéraires les plus prestigieux. Cela donne le vertige et soulève des questions existentielles sur la place de l’homme dans ce nouveau monde. 5) Merci à tous les médias, parmi lesquels Libération, France Info, France Inter, Le Huffington Post ou Les Échos, qui ont fait un travail d’enquête honnête et rigoureux pour établir la fiabilité de Pangram. #IA #littérature #écriture

The claim that "LLMs cannot think" is unscientific, unless supported by a very difficult argument about non equivalence of causal structure producing anthropomorphic outputs. The claim requires a formally rigorous definition of thinking that captures how humans mentally #LLMs #ArtificialIntelligence #CognitiveScience #Nospecificcountrycodesfound.

C'est absolument magique. Il cite un extrait vraiment typiquement IA : phrases courtes et contrastives, "il ne faisait pas X, mais Y". Et ensuite il dit qu'il ne peut croire qu'un LLM puisse générer ça. Notre spécialiste national de l'IA n'a jamais utilisé Claude. #IA #IntelligenceArtificielle #Technologie

Preuve manifeste que Ganascia (qu'on invite partout pour parler d'IA) n'a aucune idée des capacités des LLMs. C'en est comique. (C'est le mentor de Luc Julia, soit dit en passant, et il remplit de plus en plus sa niche maintenant que Luc Julia est un peu moins visible.) #IA #LLM #Technologie

Chers lecteurs. Nous appelons à y aller mollo sur les attaques contre Thélyson Orélien. D'abord, il existe une chance non nulle (même si elle est infime) qu'il soit de bonne foi. Ensuite, Orélien a sans doute joué dans une zone d'ombre morale, exploité une période de flou au cours de laquelle nos institutions et nos mœurs (ainsi que nos prix littéraires) ne sont pas encore adaptées à cette technologie nouvelle et transformatrice. Mais il ne pensait sans doute pas que le succès de son livre prendrait une ampleur nationale ; et s'il nous a paru important de signaler l'arnaque, il nous parait important d'avoir aussi de la compassion et de l'empathie pour lui, voire le soutenir dans cette période difficile qu'il doit vivre. Le mieux serait bien sûr qu'il se remette à écrire ! Les leçons de cette affaire dépassent son cas personnel, et c'est sur cela que nous devons nous concentrer. Nous avons signalé ce bouquin parce qu'il a du succès, mais c'est loin d'être le seul. Sur ce réseau, des centaines d'hommes politiques et de comptes de slop font rédiger leur posts par IA, sans dire qu'il s'agit d'IA, trompant sciemment leurs lecteurs à longueur d'année. Et cela fait longtemps que les top des ventes de livres sur Amazon (premier distributeur de livres en France) sont trustés par des bouquins rédigés directement par IA, parfois très grossièrement, et avec un moins bon résultat que celui de Thélyson (qui a donc une forme de mérite à avoir réussi à produire une narration cohérente ayant donné satisfaction à beaucoup de lecteurs). L'intelligentsia parisienne sous-estime encore sans doute les capacités des IA, et n'utilise pas ou peu les LLM (et ne traîne pas sur Linkedin), c'est pour ça qu'elle n'a pas reconnu les formules stéréotypées. Formules qui, si nous n'étions pas lassés de les voir sans cesse, nous plairaient sans doute : les modèles de langage les ont apprises parce qu'elles plaisaient aux humains qui ont supervisé leurs entrainements par RLHF ! Dans les commentaires, certains témoignent ne pas voir l'intérêt de l'authenticité ; peut être que ce qu'il faut retenir de cette polémique, c'est que d'après l'ampleur du scandale, la majorité accorde beaucoup d'importance à l'authenticité. Si vous considérez que vous apportez de la valeur en faisant écrire vos ouvrages par IA, faites-le ! Mais au moins, mentionnez-le, pour ne pas trahir vos lecteurs, car le mensonge, lui, est moralement condamnable. #Authenticité #Littérature #IntelligenceArtificielle

Many people think that LLMs are limited by human training data, but pretraining is just establishing a common sense baseline. Most compute goes into reinforcement learning now, allowing models to move beyond the human level by exploring themselves, just as they did with Go. #LLMs #ReinforcementLearning #AIExploration #Thetweetdoesnotmentionanyspecificcountries.Therefore #theresponseis: (Nocountrycodes)

510.000 fois la mise de départ pour un ancien ministre. Des pressions illégitimes déterminantes du consentement, bordant le favoritisme et le trafic d'influence, jouant sur l'immunité du chef de l'État, admises en 4K. Une promesse de LLM souverains qui finit en partenariat avec #corruption #transparence #politique #Thetweetdoesnotmentionanyspecificcountries.Therefore #therearenocountrycodestoreturn.

510.000 fois la mise de départ pour un ancien ministre. Des pressions illégitimes déterminantes du consentement, bordant le favoritisme et le trafic d'influence, jouant sur l'immunité du chef de l'État, admises en 4K. Une promesse de LLM souverains qui finit en partenariat avec https://t.co/5WLeV7rpsS #Corruption #Influence #Politique #Iln'yapasdementiondirectedepaysspécifiquesdansletweetfourni.Donc #laréponseserait:

Reason for specifically citing open weight (and therefore Chinese LLMs, but not only Chinese) is that, even if they have built-in guardrails, somebody with the relevant knowledge can go in and remove them. In principle, harder to do with Anthropic or Open AI LLMs. #OpenAI #AIethics #LLM #CN