Wer kennt das nicht: Man will sich einloggen und muss auf einer Serie von Bildern etwas anklicken – Verkehrsampeln etwa. Die Funktion dieser sogenannten Captchas hatte ich immer so verstanden, dass es darum geht, sich als Mensch auszuweisen – ganz im Sinn der Bedeutung des Akronyms: Completely Automated Public Turing test to tell Computers and Humans Apart. Erst neulich habe ich erfahren, was es damit eigentlich (oder zumindest auch noch) auf sich hat: Wer die Bildchen auswählt, hilft nämlich mit, KI zu trainieren – im Fall der Verkehrsampeln zur Verbesserung selbstfahrender Autos.
Auf solche Zusammenhänge stösst man in Kate Crawfords äusserst lesenswertem Buch «Atlas der KI. Die materiellen Wahrheiten hinter den neuen Datenimperien» (engl. 2021, dt. 2024). Grundtenor in allen Kapiteln: KI ist weniger immateriell, als der Ausdruck «künstlich» suggeriert. Die Cloud, in die wir unsere Daten hochladen, hat wenig Wolkiges. Ausser, dass der Ausdruck die materiellen Grundlagen von KI vernebelt: die Serverfarmen mit ihrem enormen Energieverbrauch, die Wunden in der Erdkruste, die beim Abbau der Seltenen Erden entstehen, die Arbeitskräfte, die die KI-Modelle trainieren. Auch wir Nutzer:innen werden eingespannt, wie das Beispiel der Captchas zeigt. KI ist oft weniger leistungsfähig, als sie vorgibt. Deshalb müssen Heerscharen von Billigstarbeitskräften im Hintergrund algorithmische Prozesse überprüfen und korrigieren. Man meint, mit einem Chat-Bot im Austausch zu sein; in Tat und Wahrheit hat man es mit einem Menschen zu tun, der vorgibt KI zu sein. Amazon-Chef Jeff Bezos spricht unverblümt von «künstlicher künstlicher Intelligenz». Sein Dienst «Mechnical Turc» ist eine auf Mikrobezahlung basierende Crowdsourcing-Plattform. Wer mitarbeitet, muss im Sekundentakt Bildinhalte benennen und trainiert so gegen Bezahlung KI. Grade neulich war zu lesen, wie Uberfahrer so ihre Leerzeiten überbrücken und ihr Gehalt aufbessern. Bei künstlicher künstlicher Intelligenz ist es wie bei jenem Schachautomaten aus dem 18. Jahrhundert: Er gewann immer, weil im Innern ein Mensch versteckt war. Deshalb der Name des Amazon-Dienstes.
In Bezug auf die Schule ist von KI oft in zwei Hinsichten die Rede. Einerseits muss die Schule Antworten haben auf die Frage, was die Schüler:innen lernen müssen, um mit den unterschiedlichsten KI-Tools umgehen zu können. Es gilt als ausgemacht, dass KI aus dem Alltag nicht mehr verschwinden wird. Deshalb ist diese Frage wichtig. Andererseits geht es um die Frage, über welche Kompetenzen und Grundhaltungen die jungen Menschen weiterhin verfügen müssen, gerade wenn sie die Tools verwenden. Es gilt als ausgemacht, dass von KI sehr grosse Gefahren ausgehen und wir die Schüler:innen wappnen müssen. Deshalb ist diese Frage noch viel wichtiger.
Darstellungen wie jene von Crawford zeigen uns, dass sich die Schule darüber hinaus mit einem dritten Fragenkomplex beschäftigen muss. Über welches Hintergrundwissen müssen die Schüler:innen verfügen, um die unterschiedlichen Ebenen, in denen KI in unser Leben eingreift, richtig zu begreifen? Was müssen sie wissen über die Wirkweise von Algorithmen und Sprachmodellen, über den Umgang mit Daten, über die ökologische Dimension … über «Power, Politics and the Planetary Costs of Artificial Intelligence», wie der Untertitel von Crawfords Buch im Original heisst?
Während der diesjährigen Winterthemenwoche im Dezember wird sich die ganze KUE mit dem Thema KI beschäftigen – jeweils ausgehend von Inhalten der unterschiedlichen Fächer. Mein Wunsch wäre, dass neben den beiden ersten Fragen möglichst intensiv auch diese politische-ökologische Dimension der KI diskutiert wird. Für die Maturand:innen wird in der gleichzeitig stattfindenden gesellschaftspolitischen Woche das Thema «Demokratie in Zeiten der Polarisierung» behandelt – und dabei wird es auch um die Rolle von KI gehen.
Jürg Berthold
WB_45_2025