Hello tout le monde,

Réflexion que je me faisais à l’instant: actuellement, tout le monde se moque un peu du ton très pompeux et sérieux des IA, qui les rendent rapidement détectables.

Que se passera-t-il le jour où cela ne sera plus le cas? Imaginez un bot capable de s’exprimer comme un-e utilisataire normal-e, donc avec ses tics de langages, ses fautes de grammaire, ses typos, etc., et qui en plus posterait ou commenterait à une fréquence similaire à un humain?

Imaginez ensuite que ces bots, il y en ait des milliers.

Le premier scénario qui vient à l’esprit c’est clairement la promotion de produits, puisque ces recommendations paraîtront légitimes.

Le second c’est des forums comme Lemmy ou Reddit où une partie non négligeable des membres seraient en fait des bots, indétectables. On peut imaginer un bot qui génère une image de chat par IA et poste toutes les semaines une photo différent du “même chat”.

Qu’en pensez-vous?

  • Crouton@jlai.luFrançais
    0·
    7 months ago

    De ce que j’en vois, ces bots existent déjà et sont actuellement en “veille active” sur les espaces de commentaires des sites de presse en ligne. C’est particulièrement visible. Certains digressent trop facilement d’un sujet anodin vers un discours politisé qui tend vers la désinformation, l’intox, voire le complotisme.

    Au début, je pensais que c’était des trolls humains qui étaient payés, mais quand on voit le nombre de réponses similaires, la vitesse à laquelle ils répondent à l’article sans jamais répondre aux gens qui réagissent à leurs propos, et la structure systématiquement identique utilisée… Je pense que du GPT-4, Claude 3, Mixtral 8x7B et Llama 3 sont déjà utilisés pour tenter d’influencer les votes des prochaines élections européennes de cette année, et françaises de 2027. Entre les LLM dispos en Open Source et ceux propriétaires disposant d’une API, je serais très étonné qu’ils ne soient pas déjà déployés…

    Quand on sait que la Russie est à l’origine de la création de la polémique à propos des punaises de lit… On se doute que les formes d’ingérences vont être larges.