Facebook überflutet mit KI-Fakes

- Forscher warnen: Scammer nutzen AI-Inhalte, um auf Facebook zu wachsen
- Plattform belohnt mit hohem Engagement, Scammer profitieren
- Google hat bereits Maßnahmen ergriffen

Die Plattform wird von einer Flut an zweifelhaften, AI-generierten Inhalten überrollt, welche zu gesteigerter Aufmerksamkeit führt. Diese Inhalte ziehen besonders ältere Nutzer an. Laut einer Analyse von Stanford- und Georgetown-Universitätsforschern verwenden Scammer Ki-Inhalte, um ihre Facebook-Präsenz zu steigern und Nutzer auf fragwürdige Websites mit Werbung zu locken.

Die Forscher entdeckten, dass Accounts, die täglich über 50 AI-generierte Bilder posten, von Facebook-Algorithmen mit massivem Engagement belohnt werden. Zudem bevorzugt die Plattform Bildbeiträge gegenüber externen Links, was die Verbreitung von AI-generierten Inhalten fördert. Viele Facebook-Nutzer wissen nicht, dass die Bilder, die sie sehen, von AI generiert wurden. Wodruch die Nutzer unwissentlich zur Verbreitung dieser Inhalte beitragen.

Die Forscher fordern von Facebook, synthetische Inhalte zu kennzeichnen und transparenter zu sein. Allerdings hat Meta, das Unternehmen hinter Facebook, noch nicht öffentlich auf diese Problematik reagiert. Facebook kämpft nicht allein mit diesem Problem. Google hat bereits Maßnahmen ergriffen, um gegen minderwertige AI-generierte Inhalte vorzugehen, jedoch ist die langfristige Wirksamkeit dieser Maßnahmen noch unklar. Obwohl Facebook eine riesige Nutzerbasis von über drei Milliarden hat, verliert die Plattform insbesondere bei jüngeren Nutzern an Bedeutung.