Hello tout le monde,

Réflexion que je me faisais à l’instant: actuellement, tout le monde se moque un peu du ton très pompeux et sérieux des IA, qui les rendent rapidement détectables.

Que se passera-t-il le jour où cela ne sera plus le cas? Imaginez un bot capable de s’exprimer comme un-e utilisataire normal-e, donc avec ses tics de langages, ses fautes de grammaire, ses typos, etc., et qui en plus posterait ou commenterait à une fréquence similaire à un humain?

Imaginez ensuite que ces bots, il y en ait des milliers.

Le premier scénario qui vient à l’esprit c’est clairement la promotion de produits, puisque ces recommendations paraîtront légitimes.

Le second c’est des forums comme Lemmy ou Reddit où une partie non négligeable des membres seraient en fait des bots, indétectables. On peut imaginer un bot qui génère une image de chat par IA et poste toutes les semaines une photo différent du “même chat”.

Qu’en pensez-vous?

  • pseudo@jlai.lu
    link
    fedilink
    Français
    arrow-up
    0
    ·
    7 months ago

    C’est une interrogation vraiment intéressante ! En fait, on pourrait déjà être dans cette situation sans même le savoir. Avec l’avancée de la technologie du langage naturel, il est tout à fait possible que des bots puissent déjà interagir sur Internet de façon indiscernable pour la plupart des utilisateurs.
    Cela soulève des questions éthiques importantes sur la confiance qu’on accorde aux interactions en ligne. Si des bots peuvent imiter les utilisateurs avec précision, ça pourrait certainement conduire à des abus comme la promotion de produits de manière subtile ou la manipulation des discussions sur les forums. Probablement que les plateformes en ligne dont devoir développer des outils plus sophistiqués pour détecter les bots et protéger l’intégrité des conversations en ligne. Ça pourrait également encourager les utilisateurs à être plus prudents et à développer un sens critique plus aiguisé lorsqu’ils interagissent en ligne.
    Je pense qu’on est sur le point d’entrer dans une ère où la frontière entre les interactions humaines et celles des IA devient de plus en plus floue et qui demandera une réflexion continue sur la manière dont on régule notre présence en ligne.

    • Camus [il/lui]@lemmy.blahaj.zoneOP
      link
      fedilink
      Français
      arrow-up
      0
      ·
      7 months ago

      “Cela” c’est déjà un indicateur, la grande majorité des gens utilisent “Ca” à la place

      Les phrases sont trop longues aussi

      • pseudo@jlai.lu
        link
        fedilink
        Français
        arrow-up
        0
        ·
        edit-2
        7 months ago

        J’en ai laissé quelque uns volontairement. Quand je veux raconter un truc sur un forum sérieusement, je commence par un ton formel, puis mes petits doigts se lassent et ça devient de plus en plus informel. Je pense que c’est pour ça que le premier paragraphe ne m’avez pas choqué. Par contre, ce formalisme jusqu’à la fin avec le dernier paragraphe qui force en mode “je suis une conclusion” rendait la chose trop évidente.

    • Snoopy@peculiar.florist
      link
      fedilink
      arrow-up
      0
      ·
      7 months ago

      @pseudo merci pour ton aide, je relirai paisiblement. Avec les 2 versions. Après j’écris et pense comme une IA, ça vient pe de là. :)

        • Snoopy@peculiar.florist
          link
          fedilink
          arrow-up
          0
          ·
          7 months ago

          @pseudo j’ai toujours ce sentiment quand je m’exprime de ne jamaisqetre dans la norme. Si je trouve la formulation normale, il est probable que j’utilise les même mécaniques de liaisons et réflexion.

          • pseudo@jlai.lu
            link
            fedilink
            Français
            arrow-up
            0
            ·
            7 months ago

            En tout cas, tu ne varies pas spécialement de mon modèle de norme. Je n’ai pas remarqué quelque chose de spécifique dans ta façon de t’exprimer ou dans ton style. (C’est pas négatif. On s’entend).

            • Snoopy@peculiar.florist
              link
              fedilink
              arrow-up
              0
              ·
              7 months ago

              @pseudo ah merci, pcq souvent je me fais reprendre sur ma formulation ou on me dit que j’ai un language soutenu. Et donc je complexe tout le temps de ne pas etre dans la norme.