Während die Welt noch über den jüngsten Instagram-Sicherheitsvorfall diskutiert, treibt Meta seinen nächsten großen KI-Schritt voran: Bis Ende dieses Jahres sollen Maschinen den Löwenanteil der Inhaltsmoderation übernehmen. Was das für euch als Nutzerinnen und Nutzer bedeutet und warum Experten dabei die Stirn runzeln.
Was Meta plant: KI soll Facebook und Instagram moderieren
Meta beschleunigt seine Pläne zur Automatisierung der Inhaltsmoderation massiv. Laut einem Bericht von Axios übernimmt künstliche Intelligenz heute bereits rund 50 % aller Aufgaben rund um die Prüfung von Inhalten und Werbeanzeigen auf den Plattformen des Konzerns. Bis Ende 2026 soll dieser Anteil auf bis zu 90 % steigen.
Konkret bedeutet das: KI-Modelle sollen künftig den Großteil der Entscheidungen treffen, welche Beiträge auf Facebook und Instagram genehmigt, abgelehnt oder entfernt werden. Auch die Prüfung von Werbeanzeigen sowie die Bearbeitung von Kontoeinsprüchen soll zunehmend automatisiert ablaufen.
Wichtig zu verstehen: Es geht nicht zwingend darum, sofort 90 % der menschlichen Mitarbeiterinnen und Mitarbeiter zu entlassen. Gemeint ist, dass 90 % der anfallenden Prüfaufgaben von KI-Systemen erledigt werden sollen. Die Verschiebung ist dennoch dramatisch und dürfte langfristig erhebliche Konsequenzen für den Personalbestand haben.
Warum Meta Mark Zuckerberg diesen Schritt so dringend braucht
Hinter dem Vorstoß steckt mehr als nur der Wunsch nach Effizienz. Meta hat in den vergangenen Jahren Milliarden in KI-Technologie investiert und steht unter Druck, den wirtschaftlichen Nutzen dieser Investitionen zu belegen.
Gelingt es dem Konzern, KI erfolgreich im eigenen Haus einzusetzen und damit Personalkosten zu senken, stärkt das das Argument, diese Technologie auch anderen Unternehmen anbieten zu können. Zuckerberg braucht einen überzeugenden Beweis, dass KI menschliche Arbeit tatsächlich ersetzen kann und dieser Beweis soll nun bei der Inhaltsmoderation erbracht werden. Wie Meta dabei seine milliardenschweren KI-Investitionen zu monetarisieren plant, zeigt, wie groß der wirtschaftliche Druck hinter diesem Schritt wirklich ist.
Der Sicherheitsvorfall, den Meta lieber vergessen würde
Der Zeitpunkt des Vorhabens ist aus einem einfachen Grund brisant: Erst kürzlich wurde bekannt, dass rund 20.000 Instagram-Konten kompromittiert wurden, also einem Datenzugriff durch Unbefugte ausgesetzt waren. Besonders alarmierend war dabei die Methode: Die Angreifer nutzten keinen ausgeklügelten technischen Hack, sondern manipulierten Metas KI-gestützten Support-Bot so, dass dieser Verifizierungscodes an fremde E-Mail-Adressen verschickte. Auf diesem Weg erlangten sie Zugriff auf Konten, die ihnen nicht gehörten.
Meta erklärte, die Sicherheitslücke sei inzwischen geschlossen. Dennoch wirft der Vorfall grundlegende Fragen auf.
Das eigentliche Problem: KI-Systeme lassen sich austricksen
Sicherheitsexperten weisen auf eine strukturelle Schwäche hin, die sich nicht einfach wegpatchen lässt: KI-Systeme, die auf natürlicher Sprache basieren, können auf unzählige Arten angesprochen werden. Selbst wenn bestimmte Formulierungen oder Anfragen blockiert werden, finden findige Nutzerinnen und Nutzer oft Umgehungswege durch andere Wortwahl oder Kontexte.
Je mehr sensible Aufgaben Meta seinen KI-Agenten überträgt, desto größer wird die potenzielle Angriffsfläche. Moderationsentscheidungen, Kontosperrungen, Anzeigenprüfungen: All das sind Bereiche, in denen Fehlentscheidungen oder gezieltes Missbrauchspotenzial spürbare Folgen für Millionen von Facebook- und Instagram-Nutzenden haben können.
Was das für euch bedeutet
Für euch als Nutzerinnen und Nutzer von Instagram und Facebook heißt das konkret: Entscheidungen über eure Inhalte, eure Anzeigen und möglicherweise euren Kontozugang werden künftig überwiegend von Algorithmen getroffen, nicht von Menschen.
Ob ein Beitrag gegen Richtlinien verstößt, ob eine Werbeanzeige genehmigt wird oder ob ein gesperrtes Konto wieder freigegeben wird: All das soll zunehmend automatisiert geschehen. Metas Plan ist ambitioniert, vielleicht zu ambitioniert. Die offene Frage lautet, ob das Tempo, mit dem der Konzern KI-Systemen immer mehr Verantwortung überträgt, mit der nötigen Sorgfalt vereinbar ist, oder ob hier wirtschaftliche Interessen über Sicherheitsbedenken gestellt werden. Die Financial Times hat die Hintergründe dieser Entwicklung ebenfalls eingehend beleuchtet.
Blogger in Charge bei Futurebiz, Speaker, Autor und Senior Digital & Social Media Berater bei der Agentur BRANDPUNKT. Jan Firsching berät Marken und Unternehmen bei der Entwicklung von digitalen und Social Media Strategien. Zu Futurebiz Consulting
Blogger in charge at Futurebiz. Speaker, author and senior digital & social media consultant at the BRANDPUNKT agency. Jan Firsching advises brands and companies on the development and implementation of digital and social media strategies.
