Hello tout le monde,

Réflexion que je me faisais à l’instant: actuellement, tout le monde se moque un peu du ton très pompeux et sérieux des IA, qui les rendent rapidement détectables.

Que se passera-t-il le jour où cela ne sera plus le cas? Imaginez un bot capable de s’exprimer comme un-e utilisataire normal-e, donc avec ses tics de langages, ses fautes de grammaire, ses typos, etc., et qui en plus posterait ou commenterait à une fréquence similaire à un humain?

Imaginez ensuite que ces bots, il y en ait des milliers.

Le premier scénario qui vient à l’esprit c’est clairement la promotion de produits, puisque ces recommendations paraîtront légitimes.

Le second c’est des forums comme Lemmy ou Reddit où une partie non négligeable des membres seraient en fait des bots, indétectables. On peut imaginer un bot qui génère une image de chat par IA et poste toutes les semaines une photo différent du “même chat”.

Qu’en pensez-vous?

  • Camus [il/lui]OP
    link
    Français
    22 months ago

    Merci pour ton message, c’est un autre aspect que j’imaginais, Her est une bonne métaphore.

    Dans un monde avec des Her, y a-t-il encore besoins de modérateurs? Chacun-e ne peut-il pas juste se connecter à un ensemble de bots qui le distraient, lui apprennent des choses, postent des memes faits sur mesure pour lui/elle?

    Ca semble un peu lointain pour le moment, mais avec le chatbot “affectifs” (que ce soit amoureux ou autre), on y arrive déjà d’une certaine manière, ce n’est sans doute qu’une question de temps

    • Snoopy
      link
      fedilink
      3
      edit-2
      2 months ago

      @Camus @forumlibre

      Oui, tout à fait. Ya plus de modo dans Her car effectivement les bots seront capablent de le distraire et l’écouter. Etant sans affect Iels me réagiront pas et vont continuer à dialoguer dans le plus grand calme, sans avoir recours à des mécanismes de defense comme l’évitement, le filtrage. Une présence 24h/24h.

      Yaura pas non plus de parti pris. Par exemple, la sanction sera executée sous forme de shadows-ban et réouverture au réseau social. Cad que j’imagine le chatbot peut-etre capable d’isoler une personne sans qu’elle le sache et de la reconnecter au reseau social sur la base de certains critères.

      Effectivement apprendre des choses sera la part positive tant que ça reste dans le domaine de la science. En revanche elle pourrait influencer l’opinion et nous convaincre de voter à droite comme le fait CNews. Ça demande pas d’effort.

      Oui, on y est déjà sur les bots affectif. La version minimale est de distribuer des +1 pour se sentir mieux ou lancer des encouragement : “on croise les doigts”, “vas-y fonces”. Voilà, ca suffit comme affectif. Ou coller des -1 et exercer une pression sociale.

      Ya pas besoin d’un bot de chat pour ça. On peut deja manipuler l’affect d’une personne avec un mème par exemple et les renforcer dans leur opinion, les polariser.