Mittwoch, 13. Dezember 2023

Digitalisierung im Grenzland: Über das europäische KI-Gesetz 

Große Technologieunternehmen spielen eine überragende Rolle bei der Gestaltung unserer Erfahrungen mit dem Internet und dem Leben selbst. Was wir sehen, was wir kaufen, sogar was wir glauben, wird von ihnen täglich vorangetrieben. Es fällt uns schwer zu begreifen, wie viele Daten gesammelt, gespeichert und verkauft werden. Noch gibt es wenig bis gar keine Transparenz darüber, wie Unternehmen algorithmische Systeme testen und einsetzen und wie sie unsere persönlichen Daten verwenden, um daraus profitable Produkte zu entwickeln.

Wie lebens- und liebenswert unsere Zukunft noch werden kann, hängt auch davon ab, wie wir die mittlerweile allgegenwärtige Digitalisierung gestalten, kontrollieren und einhegen können. Damit wir digitale Technologien und Infrastrukturen ausschließlich profitorientierter Unternehmen nicht zum Brandbeschleuniger ökologischer Zerstörungen und sozialer Verwerfungen werden lassen, braucht es Leitplanken für eine nachhaltige Gestaltung. Dies gilt besonders für die Künstliche Intelligenz (KI). Darunter werden Technologien gefasst, die selbständig Aufgaben erledigen, die normalerweise menschliche Intelligenz erfordern. KI gilt als ein Gamechanger, der als Mensch-Maschinen-Kombination unser Alltags- und Berufsleben massiv verändern wird. Alte Berufe werden wegfallen, neue werden entstehen.

Der industrielle Kapitalismus lebt von Beschleunigung, Bewegung, Unsicherheit, Umwälzung, Erschütterung,  Zerstörung: „Alle festen eingerosteten Verhältnisse mit ihrem Gefolge von altehrwürdigen Vorstellungen und Anschauungen werden aufgelöst, alle neugebildeten veralten, ehe sie verknöchern können. Alles Ständische und Stehende verdampft, alles Heilige wird entweiht, und die Menschen sind endlich gezwungen, ihre Lebensstellung, ihre gegenseitigen Beziehungen mit nüchternen Augen anzusehen.“ (1)

Wesentliche KI-Fortschritte gab es in den letzten Jahren beim maschinellen Lernen, vor allem durch sich automatisch an den Dateninput anpassende künstliche neuronale Netzwerke (2) und durch sog. Large Language Models (LLM) (3).  Es gibt nur wenige Menschen, die verstehen, wie diese Netze funktionieren und die realistisch einschätzen können, welche Chancen und Risiken sie bergen.
„Mit der Veröffentlichung von Chat GPT Ende 2022 hat die generative KI ihren ‚iPhone-Moment‘ erlebt“, sagt Jörg Bienert, Vorstandsvorsitzender des KI-Bundesverbandes. „Deutschland kann durch die Entwicklung und Umsetzung dieser KI-Modelle nicht nur erhebliche wirtschaftliche Vorteile generieren, sondern die Technologie wird zunehmend auch einen Großteil unserer Arbeitsplätze nachhaltig positiv verändern.“ Daher sei es von enormer Bedeutung, dass sich Deutschland aktiv an der Gestaltung solcher Modelle beteiligt und die notwendige Infrastruktur und Fördermittel bereitstellt. (4) 

Am 9. Januar 2007 präsentierte Apple erstmals sein iPhone, Es veränderte die Mobilfunkbranche, weil damalige Marktführer oder Kultmarken wie Nokia oder Blackberry es nicht schnell genug schafften, konkurrenzfähige Geräte anzubieten. Wischen wurde das neue Tippen…

Deutschland hinkt bis heute bei der Digitalisierung hinterher. Die viertgrößte Industrienation der Erde stand 2022 im Index für digitale Wirtschaft und Gesellschaft unter den 27 EU-Mitgliedsstaaten an 13. Stelle. Besonders schlecht: die digitale Interaktion zwischen staatlichen Stellen und den Bürger*innen. (5) „Ich würde Deutschland die Note Fünf geben“, urteilt Telekom-Chef Tim Höttges gegenüber der FAZ. Vielleicht sei die Note harsch, aber Deutschland müsse was tun. „Aber verglichen mit den Googles, Metas, Amazons dieser Welt, dem amerikanischen Digitalsystem sind wir Zwerge. Während wir über 100 Milliarden Euro reden, sind diese Konzerne alle Billionen wert. Die könnten eine Telekom aus der Portokasse kaufen. Das macht mir Sorgen.  […] Da ist eine Asymmetrie entstanden, die uns auch ein Stück weit europäische Souveränität kostet.“ (6)

KI-Schlüsselakteure

KI-Schlüsselakteure sind die großen, global agierenden digitalen Plattformunternehmen aus den USA und China, teilweise in enger Kooperation mit staatlichen Einrichtungen: von Google über Microsoft, Baidu, Alibaba bis hin zum OpenAI-Gründer Sam Altman.

Doch auch in Deutschland, genauer gesagt in Heidelberg, tut sich was. Denn am Neckar sitzt Aleph Alpha, ein KI-Startup, das in seiner zweiten Finanzierungsrunde im Herbst 2023 eine halbe Milliarde Euro eingesammelt hat – von Bosch, von der Schwarz-Stiftung von SAP und dem Investor Harald Christ.

Der Milliardär und Lidl-Gründer Dieter Schwarz finanziert zudem über seine Stiftung in Heilbronn eine umfassende Forschungskooperation zwischen dem dortigen Innovation Park Artificial Intelligence (Ipai) (7) und der Eidgenössischen Technischen Hochschule (ETH) Zürich (8).

Im Ipai soll die gesamte KI-Wertschöpfungskette abgebildet werden – von der Qualifizierung von Fachkräften über die Forschung bis hin zur Entwicklung, Anwendung und Kommerzialisierung von ethisch verantwortungsbewusster KI. In einem europaweit einmaligen, innovationsfördernden Ökosystem sollen zukünftig unterschiedlichste Unternehmen, Startups, Forschung und Wissenschaft sowie Akteure aus dem öffentlichen Sektor zusammenkommen. Die Aktivitätsschwerpunkte entfalten sich entlang der Themencluster "Produktion & Logistik", "Handel & Distribution", "Öffentliche Dienstleistungen & Daseinsvorsorge sowie "Life Sciences". Ipais Fundamente seien – so die Selbstdarstellung - Nachhaltigkeit, digitale Verantwortung und europäische Souveränität. (7)

Auch Im Rheinischen Revier wollen die Stadt Hürth, der KI-Bundesverband, zwei Fraunhofer-Institute und die Rheinische Fachhochschule Köln  mit dem AI Village in Hürth auf dem ehemaligen RTL-Gelände ein Innovationscampus für Künstliche Intelligenz aufbauen. Derzeit werden eine KI-Erlebnisfläche, ein Aus- und Weiterbildungszentrum und erschwingliche Büroflächen für Unternehmensgründer*innen angeboten. (9)

Dem jüngsten Artificial Intelligence Index Report ist zu entnehmen, dass KI-Entwicklungen zunehmend von den Handlungen finanzkräftiger Player aus dem privaten Techniksektor bestimmt werden.  Andere gesellschaftliche Akteure, die die breitere Bevölkerung repräsentieren oder öffentlich finanzierte Forschungseinrichtungen seien immer weniger in der Lage, die laufende Entwicklung mitzugestalten. Eine Konzentration der KI-Entwicklung in den Händen von Big Tech zeichne sich ab, und der Missbrauch von KI nehme rapide zu (10) (11).

Es geht schnell und es geht um Geld

KI-Systeme übernehmen die Wissensarbeit, die ein wesentliches Fundament unserer Gesellschaft, unsere Demokratie, unserer Kultur, unseres Zusammenarbeitens ist. Viele Menschen und große Teile unserer Institutionen kommen mit dem derzeitigen Entwicklungstempo nicht zurecht. „Es geht schnell. Und es geht so schnell, dass selbst ich als KI-Experte, der mein Leben lang nichts anderes gemacht hat, Mühe habe, überhaupt noch mitzukommen. Das ist eine Gefahr,“ sagt Jonas Andrulis (CEO Aleph Alpha GmbH) (12) Er befürchtet, dass die Entscheidungsträger*innen in Europa Möglichkeiten verlieren, die Zukunft zu gestalten und „keine Hand mehr am Lenkrad“ haben. 

Dennoch ist Jonas Andrulis nicht davon begeistert, dass sein Geschäftsbereich gesetzgeberisch reguliert wird. Es geht um’s große Geld, da möchten die Unternehmer*innen ungern offenlegen, mit welchen (urheberrechtlich geschützten) Daten sie ihre KI-Basismodelle trainieren.

Junge europäische Unternehmen wie Contentsquare (13), Aleph Alpha (14) oder MistralAI (15) versuchen Baidu, Google, Amazon, Microsoft & Co in Sachen KI-Entwicklung die Stirn zu bieten.

Wann macht affective computing einen einfühlsamen Roboter zu unserem Beziehungspartner? Ab wann können wir bei Telefonaten, in Showveranstaltungen oder Videokonferenzen nicht mehr entscheiden, ob wir es mit einem Avatar zu tun haben? Wann werden wir uns in neuen real-virtuellen Umgebungen bewegen und eine personalisierte Version der Welt betrachten müssen? Ab wann wird unsere Hirnaktivität in Echtzeit aufgezeichnet und gesteuert? …

Im Projekt „Gemeinwohlorientierung im Zeitalter der Digitalisierung“ beschreiben Wissenschaftler*innen des Fraunhofer-Institut für System- und Innovationsforschung (ISI) und das Ethikzentrums der Universität Tübingen (IZEW) zehn Anwendungsfelder für KI, die mit grundlegenden Veränderungen der Mensch-Technik-Umwelt-Beziehungen einhergehen können. (16)

KI und europäische Werte

Seit rund fünf Jahren werden Möglichkeiten betrachtet, die einen europäischen Weg in die digitale Zukunft ebnen können, in einen Weg, der die Kommerzialisierung des datenbasierten Macht- und Herrschaftswissens nicht allein den chinesischen und US-amerikanischen Konzernen überlässt, in einen Weg, dessen normatives Fundament aus den Grundrechten und der Würde des Menschen und den Nachhaltigkeitsprinzipien zusammengesetzt ist (17) (18) (19) (20).

Als Teil ihrer digitalen Strategie hat die Europäische Kommission am 21. April 2021 einen gesetzlichen Rahmen zur Regulierung der KI vorgeschlagen (19) (18) (21) (22). Er bildete die Basis für das erste KI-Gesetz in der Welt, auf das sich das Europäische Parlament und der Rat der EU am späten Abend des 8. Dezembers 2023 geeinigt haben. Die neuen Vorschriften folgen einem risikobasierten Ansatz und werden voraussichtlich im 1. Halbjahr 2024 vom Rat und vom Parlament formell genehmigt werden.

Verboten werden unter u.a. KI-Systeme, die das menschliche Verhalten manipulieren, um den freien Willen des Nutzers zu umgehen, die ein "Social Scoring" durch Regierungen oder Unternehmen ermöglichen, sowie bestimmte Anwendungen der vorausschauenden Polizeiarbeit. Darüber hinaus sind einige Anwendungen biometrischer Systeme nicht mehr erlaubt, z. B. Systeme zur Erkennung von Emotionen am Arbeitsplatz.

Wirkmächtige KI-Programme, von denen ein systemisches Risiko ausgehen kann, müssen strikte Auflagen befolgen, z. B. in den Bereichen Wasser, Gas und Strom, medizinische Geräte, Zugang zu Bildungseinrichtungen oder zur Rekrutierung von Personen oder für bestimmte Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratische Prozesse eingesetzt werden
KI-Systeme, die als risikoreich eingestuft werden, müssen Programme zur Risikominderung entwickeln, ihre Aktivitäten dokumentieren, klare Benutzerinformationen bereithalten, und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit gewährleisten.

Für einfache nicht wirkmächtige Modelle gelten Transparenzanforderungen. Dazu gehören die Erstellung technischer Dokumentationen, die Einhaltung des Urheberrechts und eine Zusammenfassung über die für das Training verwendeten Daten.

Die meisten KI-Systeme gehören in die Kategorie des minimalen Risikos. Für diese Systeme können sich Unternehmen freiwillig zu bestimmten Verhaltenskodizes verpflichten.

Der deutsche KI-Verband befürchtete, dass das KI-Gesetz Verpflichtungen schaffe, die die Entwicklung der bahnbrechenden KI-Technologie in Europa behindern. (23)
Über Hintergründe der Verhandlungen zum KI-Gesetz berichten unter anderem die  WirtschaftsWoche (24)  EURACTIV (25).

KI und der digitale Humanismus

Europa bekommt – zumindest auf dem Papier – gemeinwohlorientierte KI- Regulierungen und eine Transparenz, die Unternehmenskund*innen brauchen. Denn sie müssen sicher gehen können, dass KI das macht, was sie soll. Sie müssen nachvollziehen und erklären können, warum KI so entscheidet und wie sie das tut. Und sie werden es nicht wollen, dass Bedrohungsakteure künstliche Intelligenz gezielt täuschen können.

Dennoch sprechen Kritiker*innen des europäischen KI-Gesetzes von innovationsfeindlichem Regulierungswahn, von Bürokratiemonstern oder von übertriebener Risikofixiertheit, von unverhältnismäßigen Compliancekosten und von globalen Wettbewerbsnachteilen.

Das sieht der Journalist und Autor Andrian Kreye anders. Er hält die „neue Führungsrolle Europas im digitalen Humanismus“ für einen langfristigen Wettbewerbsvorteil: „Denn noch viel mehr als in der Entwicklung des Internets wird bei künstlicher Intelligenz das Vertrauen der Menschen zum Kapital dieser Technologie.“ (26)

Doch Diskussionen um Vertrauen und Regulierungen bleiben oberflächlich, wenn sie nicht auch die Profitmaximierungen und Landnahmen in den Blick nehmen, die diese Entwicklungen vorantreibt. Das Bewusstsein davon, dass es bei einigen technisch und abstrakt anmutenden Debatten am Ende nur um den Kapitalismus geht, ist nicht ganz unbedeutsam für die Entwicklung wirksamer politischer Handlungsansätze. Wer entwickelt eigentlich wie und für wen die künstliche Intelligenz?

Es erfordert viel Vorstellungskraft und Kreativität, um über Daten und ihre Ausbeutungsmöglichkeiten anders zu denken und sie zurückzugewinnen und digitale Werkzeuge zu entwickeln, die uns befreien und nachhaltige Gebrauchswerte erzeugen.

Verweise

1. Karl Marx und Friedrich Engels. Manifest der Kommunistischen Partei. [Online] Februar 1848. https://www.marxists.org/deutsch/archiv/marx-engels/1848/manifest/1-bourprol.htm

2. Stefan Luber. Was ist ein neuronales Netz? [Online] 25. April 2023. https://www.cloudcomputing-insider.de/was-ist-ein-neuronales-netz-a-4710b5d630fc84c963a6913985e46040/?cflt=rdt

3. Stefan Luber. Was ist ein Large Language Model? Cloudcomputing insider. [Online] 2. Mai 2023. https://www.cloudcomputing-insider.de/was-ist-ein-large-language-model-llm-a-9b7bdd0c3766b5a9c0ee1e0c909790a3/

4. Stadt Hürth. AI Village ist Hotspot und Innovationscampus für Künstliche Intelligenz im Herzen Europas. [Online] 24. August 2023. https://www.huerth.de/pressearchiv-2023/2023-08-24-AI-Village.php

5. European Commission. Germany in the Digital Economy and Society Index. [Online] [Zitat vom: 12. Dezember 2023.] https://digital-strategy.ec.europa.eu/en/policies/desi-germany

6. Alexander Armbruster u.a. "Ich würde Deutschland die Note fünf geben". FAZ.  17. Oktober 2023

7. Ipai. The Global Home of Human AI. [Online] [Zitat vom: 12. Dezember 2023.] https://ip.ai/

8. Dieter-Schwarz-Stiftung. Mit einer weiteren Top-Universität bündelt der Bildungscampus in Heilbronn die Kräfte zweier führender europäischer Hochschulen. [Online] 11. Dezember 2023. https://www.dieter-schwarz-stiftung.de/aktuelles/mit-einer-weiteren-top-universitaet-buendelt-der-bildungscampus-in-heilbronn-die-kraefte-zweier-fuehrender-europaeischer-hochschulen.html

9. AI-Village. AI Village - Innovation at Work. [Online] [Zitat vom: 12. Dezember 2023.] https://ai-village.eu/

10. Stanford University Human-Centered Artificial Index. AI Index Annual Report 2023. [Online] [Zitat vom: 11. Dezember 2023.] https://aiindex.stanford.edu/report/

11. Silke Hahn. AI Index 2023: Über die Hälfte des globalen KI-Wagniskapitals stammt aus den USA. Heise.de. [Online] 4. April 2023. https://www.heise.de/news/AI-Index-2023-Referenz-zur-kritischen-Auseinandersetzung-mit-der-KI-Entwicklung-8515509.html

12. The Pioneer Briefing. Hat ein deutsches KI-Unternehmen eine Chance gegen die USA, Jonas Andrulis? [Online] 11. Dezember 2023. https://www.thepioneer.de/originals/thepioneer-briefing-business-class-edition/podcasts/hat-ein-deutsches-ki-unternehmen-eine-chance-gegen-die-usa-jonas-andrulis

13. Contentsquare. [Online] https://go.contentsquare.com/

14. Aleph Alpha. [Online] https://aleph-alpha.com/de/

15. Mistral AI. [Online] https://mistral.ai/

16. Lorenz Erdmann u.a. Digitalisierung und Gemeinwohl –Transformationsnarrative zwischen Planetaren Grenzen und Künstlicher Intelligenz. Umweltbundesamt - Texte 29/2022. [Online] März 2022. https://www.umweltbundesamt.de/sites/default/files/medien/479/publikationen/texte_29-2022_digitalisierung_und_gemeinwohl.pdf

17. Wissenschaftlicher Beirat der Bundesregierung Globale Umweltvertänderungen. Ein europäischer Weg in unsere gemeinsame digitale Zukunft. [Online] September 2019. https://www.wbgu.de/fileadmin/user_upload/wbgu/publikationen/politikpapiere/pp11_2019/wbgu_pp11_navi.pdf

18. Europäische Kommission. Anhänge des Vorschlags für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz. [Online] 21. April 2021. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0019.02/DOC_2&format=PDF

19.Europäische Kommission. Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Fesrlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte in der Union 2021/0106. [Online] 21. April 2021. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0019.02/DOC_1&format=PDF

20. Europäische Kommission. Gestaltung der digitalen Zukunft Europas. [Online] [Zitat vom: 11. Dezember 2023.] https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/shaping-europes-digital-future_de

21. European Commission. Commission welcomes political agreement on Artificial Intelligence Act. [Online] 9. Dezember 2023. https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473

22. Handelsblatt. Das sind die wichtigsten Punkte im KI-Gesetz. 11. Dezember 2023

23. German AI Association. The EU AI Act: Towards the finish line: Key issues and proposals for the trilogue negotiations . [Online] Juli 2023. https://ki-verband.de/wp-content/uploads/2023/07/Position-Paper_AI-Act-Trilogue_GermanAIAssociation.pdf

24. Jan Lutz. Das ist vom neuen EU-KI-Gesetz zu halten. [Online] 9. Dezember 2023. https://www.wiwo.de/politik/europa/ai-act-das-ist-vom-neuen-eu-ki-gesetz-zu-halten/29549332.html

25. Luca Bertuzzi, Florian Schönweiß. EU verabschiedet weltweit erstes KI-Gesetz. EURACTIV. [Online] 11. Dezember 2023. https://www.euractiv.de/section/innovation/news/eu-verabschiedet-weltweit-erstes-ki-gesetz/

26. Andrian Kreye. Ran an die Großen. Süddeutsche Zeitung. [Online] 11. Dezember 2023