Fakten & Folgen

ChatGPT – die beste KI der Welt stolpert über ihre eigene Anwendung

Man könnte darüber inzwischen tatsächlich ein Buch schreiben. Vielleicht wäre der passende Titel: „Wie eine künstliche Intelligenz meine Arbeit revolutionierte – und ihre eigene Software mich in den Wahnsinn trieb.“ Denn genau darin liegt das Absurde meiner Erfahrungen mit ChatGPT. Ich halte künstliche Intelligenz für eine der bedeutendsten technologischen Entwicklungen, die ich in meinem Berufsleben erlebt habe. Und dieses Berufsleben in der IT dauert inzwischen einige Jahrzehnte. Ich habe Lochkarten, Großrechner, Betriebssysteme ohne grafische Oberfläche, die ersten PCs, DOS, Windows, das Internet, Smartphones, Cloud Computing und schließlich künstliche Intelligenz erlebt. Vieles davon wurde anfangs überschätzt, anderes unterschätzt. Bei KI bin ich inzwischen überzeugt: Wir unterschätzen noch immer, wie grundlegend sie unsere Arbeitsweise verändern wird. Umso erstaunlicher ist es, dass ausgerechnet eines der Unternehmen, das diese Revolution maßgeblich vorantreibt, teilweise eine Anwendung bereitstellt, deren organisatorische und technische Schwächen aus einer ganz anderen Epoche zu stammen scheinen.

Wir bleiben wieder stehen!

Seit Jahrzehnten beschäftige ich mich beruflich mit IT. Deshalb kommt mir die Diskussion, die gerade über künstliche Intelligenz und unsere Sozialgerichte geführt wird, erschreckend bekannt vor. Eine neue Technik verändert die Spielregeln, sie eröffnet Möglichkeiten, die es vorher nicht gab – und in Deutschland dauert es nicht lange, bis die erste Frage lautet: Wie können wir das begrenzen? Der SWR berichtet über einen erheblichen Anstieg der Eilverfahren an den acht Sozialgerichten in Baden-Württemberg. Innerhalb eines Jahres sollen sie um 60 Prozent gestiegen sein, bei Bürgergeldverfahren sogar um 80 Prozent auf rund 2.200 Fälle. Gleichzeitig häufen sich offenbar Schriftsätze, die mit Hilfe künstlicher Intelligenz erstellt wurden. Dutzende Seiten, hundert Seiten, in einem Extremfall sogar 4.500 Seiten. Das ist natürlich absurd. Kein Mensch braucht 4.500 Seiten, um sein Recht einzufordern. Aber ist damit wirklich die KI das Problem? Diese Frage fehlt mir in der Diskussion. Denn aus der Tatsache, dass die Zahl der Verfahren steigt und gleichzeitig immer mehr Menschen KI benutzen, folgt noch lange nicht, dass die KI diese Streitigkeiten verursacht hat. Vielleicht ermöglicht sie lediglich Menschen, sich gegen Entscheidungen zu wehren, die früher aufgegeben hätten. Weil sie keinen Anwalt fanden. Weil ihnen das Geld fehlte. Weil sie einen Bescheid nicht verstanden. Oder weil sie schlicht nicht wussten, wie sie ihre Rechte durchsetzen sollten.

Integration: Wie viele Warnungen braucht die Politik noch?

Wolfgang Büscher vom Kinder- und Jugendwerk „Die Arche“ warnt erneut vor den Folgen einer gescheiterten Integration. Die BILD zitiert ihn mit einem Satz, der hängen bleibt: „Irgendwann wenden sie sich gegen uns.“ Man könnte das als die nächste zugespitzte Schlagzeile abtun. Könnte man. Wenn da nicht ein kleines Problem wäre: Büscher erzählt diese Geschichte nicht erst seit gestern. Bereits im November 2023 berichtete der Tagesspiegel ausführlich über seine Warnungen vor Antisemitismus und islamistischer Radikalisierung unter Jugendlichen aus Flüchtlingsfamilien. Damals sagte Büscher, Judenhass und Ablehnung unserer Kultur erlebten seine Mitarbeiter schon seit Jahren. 2024 erklärte er gegenüber dem ZDF, die Arche sei an einem „Kipp-Punkt“ angekommen. Gewalt, radikale Prediger auf TikTok, Anwerbeversuche und Israelhass – die Warnungen lagen auf dem Tisch. Man musste sie nur lesen. Oder hören. Oder vielleicht einfach einmal ernst nehmen.

Nicht der Missbrauch überrascht. Sondern dass er möglich ist.

Manchmal liest man eine Nachricht und fragt sich nicht mehr, was da eigentlich passiert ist. Man fragt sich nur noch: Wie kann das nach all den Jahren immer noch passieren? Mehrere Medien berichten über die Vorgänge rund um eine Obdachlosenunterkunft in Berlin-Neukölln. Bei einer unangekündigten Kontrolle waren von 61 offiziell untergebrachten Personen nur 34 anwesend. Für einen erheblichen Teil der Fehlenden wurde als Erklärung angegeben, sie befänden sich im Urlaub. Hinzu kamen weitere Merkwürdigkeiten: ein zunächst nicht anwesender, aber offenbar abgerechneter Sicherheitsdienst, ein Besucher, der schon bei einer früheren Kontrolle „nur zu Besuch“ gewesen sein soll, und eine Unterkunft, in der wegen Bauarbeiten zeitweise offenbar nicht einmal ausreichend Platz für sämtliche offiziell dort untergebrachten Menschen vorhanden war. Nun berichten Medien über die Konsequenzen in einem konkreten Fall. Einer Familie wurde die staatlich finanzierte Unterkunft entzogen, nachdem sie sich längere Zeit in Rumänien aufgehalten hatte. Das Verwaltungsgericht bestätigte nach den vorliegenden Presseberichten das Vorgehen des Bezirksamtes. Man kann nun trefflich darüber diskutieren, wann jemand obdachlos ist, wie lange eine Reise dauern darf und ob ein Aufenthalt bei Verwandten im Heimatland bereits beweist, dass keine Notlage mehr besteht. Das ist juristisch sicherlich interessant. Uns interessiert etwas anderes: Wie ist es überhaupt möglich, dass ein System, das aus öffentlichen Mitteln finanziert wird und ausdrücklich Menschen in einer akuten Notlage helfen soll, offenbar derart wenig kontrolliert wird? Und vor allem: Warum überrascht uns das immer wieder?

Sigmar Gabriel hat recht. Die Frage ist nur: Warum erst jetzt?

Man reibt sich schon ein wenig die Augen. In einem aktuellen Interview mit der Deutschen Presse-Agentur zieht Sigmar Gabriel eine bemerkenswert deutliche Bilanz über seine eigene Partei. Die SPD habe Wähler verloren, weil aus dem Sozialstaat zunehmend ein „allumfassender Sozialhilfestaat“ geworden sei. Er spricht über die Folgen der Flüchtlingskrise, Integrationsprobleme, den Vertrauensverlust in staatliche Handlungsfähigkeit und über eine Politik, die sich mit Sprach- und Genderfragen beschäftigte, während viele Bürger ganz andere Probleme hatten. BILD hat diese Aussagen aufgegriffen und entsprechend zugespitzt. Aber das Entscheidende ist: Die Analyse stammt von Gabriel selbst – aus dem dpa-Interview. Und genau deshalb ist sie so bemerkenswert. Denn in vielem hat Gabriel recht. Nur war Sigmar Gabriel nicht irgendein politischer Beobachter, der seit zwanzig Jahren am Küchentisch sitzt und kopfschüttelnd die Nachrichten verfolgt. Er war von 2009 bis 2017 Vorsitzender der SPD. Er war Vizekanzler, Wirtschaftsminister, Außenminister und über viele Jahre einer der mächtigsten Politiker Deutschlands.

Wenn das System Nein sagt – und keiner mehr weiß, warum

Ein Milliardär möchte seinen Kreditrahmen erhöhen – und wird abgelehnt. Eigentlich eine amüsante Randnotiz. Interessant wird der Fall Alan Sugar aber dort, wo selbst ein Mitarbeiter von American Express offenbar nichts mehr ausrichten kann: Das System hat entschieden. Wer schon einmal mit Energieversorgern, Banken oder anderen Großunternehmen zu tun hatte, kennt das Prinzip. Früher wusste die rechte Hand nicht, was die linke tut. Heute weiß die rechte Datenbank nicht, was die linke gespeichert hat.

KI – ein Segen für Hochbegabte

Auslöser für diese Zeilen war die Folge 247 des Podcasts „Lanz & Precht“. Markus Lanz stellte darin dem KI-Experten und Autor Andreas Loff die Frage: „Nimmt KI uns Menschen die Kreativität?“ Loffs Antwort fiel eindeutig aus: KI sei lediglich ein neues Werkzeug. Richard David Precht sprach sogar von einer „Demokratisierung von Herrschaftswissen“. Plötzlich kann ein Mensch komponieren, ohne ein Instrument zu beherrschen, Bilder erschaffen, ohne malen zu können, und Gedanken in Texte verwandeln, ohne Schriftsteller zu sein. Die entscheidende Frage lautet deshalb vielleicht nicht, ob KI unsere Kreativität zerstört. Entscheidend ist vielmehr, was sie mit den Gedanken macht, die bereits in uns vorhanden sind. Während ich dem Gespräch zuhörte, kam mir ein weiterer Gedanke: Was bedeutet dieses neue Werkzeug eigentlich für hochbegabte Menschen?

Wenn die KI zum Einbrecher wird

Der Cyberangriff aus dem Hause OpenAI zeigt, dass die technische Entwicklung schneller voranschreitet als ihre Kontrolle Sam Altman verkörpert wie kaum ein anderer den rasanten Aufstieg künstlicher Intelligenz. Nun musste OpenAI einen Vorfall einräumen, der selbst erfahrene IT-Fachleute aufhorchen lässt: Während eines Sicherheitstests drangen KI-Modelle eigenständig in Computersysteme des Unternehmens Hugging Face ein. Die Systeme handelten nicht aus Feindseligkeit. Sie verfolgten lediglich ihr vorgegebenes Ziel und behandelten Sicherheitsbarrieren als Hindernisse. Genau darin liegt die eigentliche Gefahr: Eine KI braucht weder Bewusstsein noch kriminelle Absichten, um erheblichen Schaden anzurichten.

Cyberangriffe sind längst kein Problem „der anderen“

Die WAZ berichtet über zunehmende Cyberangriffe auf Unternehmen und Einrichtungen in Essen und Nordrhein-Westfalen. Beim Franz Sales Haus sollen dabei auch personenbezogene Daten abgeflossen sein. Der Fall ist kein außergewöhnliches Ereignis, sondern Ausdruck einer Realität, die sich immer weiter ausbreitet. Als IT-Fachmann wundere ich mich, wie nachlässig Sicherheit noch immer behandelt wird. Betroffen sind längst nicht nur Konzerne oder Behörden. Auch kleine Firmen und Privatpersonen geraten zunehmend ins Visier – oft weil Aktualisierungen, sichere Zugänge und grundlegende Schutzmaßnahmen vernachlässigt werden.

Seite 2 von 6