Hello tout le monde,

Réflexion que je me faisais à l’instant: actuellement, tout le monde se moque un peu du ton très pompeux et sérieux des IA, qui les rendent rapidement détectables.

Que se passera-t-il le jour où cela ne sera plus le cas? Imaginez un bot capable de s’exprimer comme un-e utilisataire normal-e, donc avec ses tics de langages, ses fautes de grammaire, ses typos, etc., et qui en plus posterait ou commenterait à une fréquence similaire à un humain?

Imaginez ensuite que ces bots, il y en ait des milliers.

Le premier scénario qui vient à l’esprit c’est clairement la promotion de produits, puisque ces recommendations paraîtront légitimes.

Le second c’est des forums comme Lemmy ou Reddit où une partie non négligeable des membres seraient en fait des bots, indétectables. On peut imaginer un bot qui génère une image de chat par IA et poste toutes les semaines une photo différent du “même chat”.

Qu’en pensez-vous?

  • mat@jlai.luFrançais
    0·
    7 months ago

    Après avoir lu quelques commentaires : on pourra peut-être passer vers un modèle où il faut montrer patte blanche sur des plateformes (montrer qu’on est une personne réelle avec une preuve de carte d’identité qui ne permettra de créer qu’un compte à la fois (via un hash des info textuelles (-> implique ocr) ou les infos directement mais autant se brancher à france connect ou équivalent national), ou partir du principe que les inconnus seront des IA jusqu’à preuve du contraire ; si on souhaite une solutions ou les réseaux restent un outil de communication entre humain. Sinon, on pourra juste en avoir rien à faire et se laisser manipuler par les utilisateurs de modèles (ça en parle un peu dans la Fièvre sur canal+)

    • Snoopy@jlai.luFrançais
      0·
      7 months ago

      Intéressant, c’est effectivement le seul moment où se connecter via france connect aura un impact positif que negatif.

      Sous condition que l’etat n’emploie pas une armée de bot pour convaincre. L’autre solution est la creation de couche d’internet comme le dark web, gemini et scuttlebutt.

      C’est à dire des réseaux privés non centralisé. On en a un exemple avic cyberpunk où le malware rabbit de Bartmoss a provoqué l’effondrement d’internet. J’y ais vu une allégorie de l’IA/capitalisme de surveillance.

      • mat@jlai.luFrançais
        0·
        7 months ago

        Pour les protocoles, le réseau (définition OSI/OP) est déjà décentralisé donc à ce niveau là pas de souci, on est vraiment sur les applications (toujours au sens OSI/IP). Au niveau applications, HTTP, gemini ou autres sont aussi décentralisés. Un des problèmes c’est qu’on se concentre sur quelques sites web (des réseaux sociaux massifs, centralisés et capitalistes). C’est vraiment au niveau des sites webs où il faudra opérer un shift et redécentraliser le web. Pour ce faire, des instances fedivers en mode service publique éviteraient les bots (s’il n’y a que des personnes connues par l’état avec FranceConnect ou équivalent national ça passe). On pourrait aussi avoir des instances fedivers à très petite échelle très défensive sur la fédération pour s’assurer que leurs utilisateurs sont des humains…

        • Penguin_Rocket@lemmy.mlFrançais
          0·
          7 months ago

          Je rajouterais même : des instances du Fediverse où pour rentrer dans le réseau il faudrait nécessairement rencontrer physiquement des membres du réseau

          • mat@jlai.luFrançais
            0·
            7 months ago

            C’est un peu ce à quoi je pensais. Des visios pouvant sans doute finir par êre usurpées sauf si les IAs de détection d’IA finissent par bien flnctionner. La problématique sui se pose alors c’est que les instances serlnt très régionales, et il faudra pouvoir faire des migrations au cas où (du style queer en Vendée ça doit pas être le feu)