Was kann AI, was darf AI – der schmale Grat zwischen Können und Sollen

Microsoft initiiert Dialog zum Thema AI & Ethik beim Europäischen Forum Alpbach

80 Prozent der österreichischen Unternehmen beschäftigen sich mit künstlicher Intelligenz laut EY Studie von Microsoft
Österreichs AI-Expertise ist im Europavergleich unterdurchschnittlich
Verdoppelung des österreichischen Wirtschaftswachstumes durch Einsatz von AI prognostiziert
Österreich braucht entschlossene und proaktive Regulierung von AI

Was wollen wir überhaupt von AI? Auf der einen Seite erleichtert die Technologie bereits vieles in unserem Leben und die Möglichkeiten sind längst noch nicht ausgeschöpft. Auf der anderen Seite braucht es Spielregeln, um sicherzustellen, dass der Einsatz von künstlicher Intelligenz stets zum Wohle der Menschheit stattfindet. Wie sehen diese Regeln aus und welchen regulatorischen Rahmen benötigt Innovation? Demokratisierung sowie der ethische Umgang mit AI sind dabei Schlüsselfaktoren. Die Identifizierung der ethischen Herausforderungen sowie das Hervorheben der Unterschiede zwischen Mensch und Maschine sind notwendige Maßnahmen. Nur so schafft Österreich Rahmenbedingungen, um die Potenziale von AI einerseits sozialverträglich und andererseits konjunkturfördernd zu nutzen.

Der Diskurs rund um AI & Ethik rückt immer stärker in den gesellschaftlichen Mittelpunkt. Als Anbieter von Plattformen und Partner Ecosystems will Microsoft künstliche Intelligenz für Jedermann ermöglichen. Das Unternehmen macht sich deswegen zum ethischen Umgang mit AI schon länger Gedanken und lud im Rahmen der Wirtschaftsgespräche in Alpbach zum Gespräch. Unter dem Titel „Was kann AI, was darf AI – Welchen regulatorischen Rahmen benötigt Innovation?“ diskutierten Matthias Strolz (ehem. Parteichef NEOS, Portfolio-Entrepreneur), Andreas J. Ludwig (Vorstandsvorsitzender, Umdasch Group AG), Bernd Carsten Stahl (Professor an der De Montfort University, UK, Leiter des Centre für Computing & Social Responsibility) und Dorothee Ritz (General Managerin, Microsoft Österreich) unter der Leitung von Die Presse-Chefredakteur Rainer Nowak über das Potenzial und die Herausforderungen, die der Einsatz von künstlicher Intelligenz (AI) mit sich bringt und wie eine Regulation am Puls der Zeit aussehen könnte.

„Machine Learning und AI werden Veränderungen ermöglichen, die wir uns heute noch schwer vorstellen können. Aber eine Maschine wird nie eine Seele haben und diesen Unterschied gilt es zu kultivieren.“ Matthias Strolz

„Aus wirtschaftlicher Sicht ist AI ein Wachstumstreiber ersten Ranges, bei der Entwicklung neuer AI-Technologien muss der Fokus jedoch ganz klar auf dem ethischen Umgang sowie auf der Demokratisierung der entwickelten Technologien liegen“ Dorothee Ritz

AI auf der digitalen Agenda der österreichischen Unternehmen

Künstliche Intelligenz spielt für Unternehmen eine immer größere Rolle. Das bestätigt eine AI-Studie von EY und Microsoft aus dem Vorjahr: Für 81% der österreichischen Unternehmen ist AI das wichtigste Digitalisierungsthema überhaupt. 57% erwarten zudem einen hohen Einfluss durch AI auf Geschäftsfelder, die es zum heutigen Zeitpunkt noch gar nicht gibt. Das Bundesministerium Digitalisierung & Wirtschaftsstandort erwartet durch den Einsatz von AI ein Wirtschaftswachstum von 3 Prozent jährlich. Das entspricht eine Verdoppelung des aktuellen Basiswachstums. Gleichzeitig schöpfen vor allem kleinere und mittlere Unternehmen (KMU) noch nicht das volle Potenzial der neuen Technologien aus. Verbesserte rechtliche Rahmenbedingungen sowie gezielte Beratung zur Umsetzung der digitalen Transformation sind dabei wichtige Faktoren. Was die Skills und Expertise im Bereich AI betrifft, liegt Österreich unter dem europäischen Durchschnitt. Hier wird mehr Mut zur Innovation von den Unternehmen gefordert, um von den Möglichkeiten der AI vollends profitieren zu können.

Ethik der AI – Freiraum vs. Grenzen

AI verändert jede Branche und wird, genau wie alle großen technologischen Umbrüche, für neue Möglichkeiten sorgen, aber auch Ängste auslösen. „Aus wirtschaftlicher Sicht ist AI ein Wachstumstreiber ersten Ranges, bei der Entwicklung neuer AI-Technologien muss der Fokus jedoch ganz klar auf dem ethischen Umgang sowie auf der Demokratisierung der entwickelten Technologien liegen“, erklärt Dorothee Ritz, General Manager von Microsoft Österreich. „Auf globaler Ebene hat Microsoft daher kürzlich 1 Milliarde US-Dollar in die Non-Profit-Organisation OpenAI investiert“ Ziel der Organisation, die im Übrigen auch von Elon Musk unterstützt wird, ist die Sicherstellung, dass die künstliche Intelligenz der gesamten Menschheit zugutekommt. Ritz fügt hinzu: „Wir sind uns der Verantwortung als Konzern bewusst und nehmen die Sorgen und Ängste der Menschen ernst.“

Um sicherzustellen, dass neue Technologien nur zum Wohl der Bürgerinnen und Bürger eingesetzt werden, sind Leitplanken und Gesetzesvorgaben unverzichtbar. Da die Gesetzesmühlen meist langsamer mahlen, als sich das Rad des technologischen Fortschritts dreht, liegt die Herausforderung seitens der Politik darin die Regulierungen flexibel genug zu gestalten. „Es braucht eine gesamteuropäische Initiative für die vorausschauende Regulierung disruptiver Technologien, um das volle Innovationspotenzial von AI nutzen zu können.“ fasst Matthias Strolz zusammen. „Es gilt, die bestmöglichen Rahmenbedingungen sowohl für InvestorInnen, als auch für ForscherInnen zu schaffen.“ Ähnlich sieht das auch Andreas J. Ludwig: „AI bietet uns in Bereichen wie Forschung, Gesundheit oder Umwelt immense Chancen. Ich fürchte allerdings, dass unser Wertesystem – und somit auch die politischen und gesellschaftlichen Governance Systeme – das gesamte Ausmaß der damit einhergehenden ethischen Herausforderungen noch nicht ermessen können. Es braucht globale Konzepte und Leitlinien, damit die humangesellschaftlichen Auswirkungen uns nicht böse überraschen.“

Über einen Punkt sind sich die Diskutierenden einig: Grundlegende Werte und Prinzipen müssen stets im Mittelpunkt stehen. Der Erfolg neuer Technologien baut auf das Vertrauen, dass alles korrekt abläuft. „Daher sind Regulierungen notwendig, um den Menschen ehestmöglich die Ängste und Sorgen vor AI zu nehmen und den Fokus auf die vielen Möglichkeiten und das nahezu unbegrenzte Potential zu lenken“, so Ritz.

Das Rad muss nicht neu erfunden werden

Die Forschung zu Ethik der AI identifiziert zwei Themenfelder. Sie setzen sich einerseits aus etablierten Fragen der Menschenrechte, andererseits aus politischen Fragen zusammen. Die Computerwissenschaft beschäftigt sich mit dem Thema Ethik der AI schon länger: „Etablierte Ansätze müssen nicht wieder neu erfunden werden“, so Bernd Carsten Stahl, Professor an der De Montfort University. „Um sinnvoll weiter zu kommen, müssen wir über den Hype hinausblicken. Es gilt festzustellen, welche Probleme vorhanden sind und existierende Lösungsansätze aufzugreifen und weiterentwickeln.“ Dazu gehören unter anderem Methodologien der Softwareentwicklung ebenso wie rechtliche Ansätze zu Datenschutz, Datensicherheit und Menschenrechte. „Obwohl AI sowohl in der Entwicklung als auch in der Anwendung weitgehend eine globale Technologie ist, ist die heutige Diskussion sehr auf Österreich fokussiert. Dies zeigt aber nur, dass ethische Fragestellungen immer auch eine lokale Dimension haben und nur im lokalen Kontext verständlich sind“ fasst Prof. Stahl die Komplexität der Fragestellung zusammen. „Gefragt sind Strategien der Parlamente, in Österreich sind diese noch ausständig. Deutschland hat hingegen bereits eine Strategie präsentiert und will bis 2025 drei Milliarden für eine gemeinwohlorientierte Nutzung von AI bereitstellen. Diese Summe steht jedoch in keiner Relation zum Thema, darüber können Nationen wie China nur lachen.“ fügt Strolz hinzu.

Emotionale Kompetenz als notwendige Komponente

Aufgabe der künstlichen Intelligenz ist es nicht, den Menschen zu ersetzen. Sie soll den Menschen im Alltag vielmehr begleiten, unterstützen und sinnvoll ergänzen. Richtig eingesetzt sorgt ein abgestimmtes Mensch-Maschine Team für effizienteres Arbeiten und eine gesteigerte Produktivität. Die oft vorhandene Angst um Arbeitsplätze wird entkräftet, denn neue Berufsfelder entstehen. „So wird es beispielsweise in Zukunft den Beruf des Empathologen geben. Dessen Aufgabe könnte es sein, künstliche Intelligenz mit der Fähigkeit auszustatten eigene und fremde Gefühle zu verstehen und angemessen darauf zu reagieren.“, schildert Ritz etwaige neue Berufsfelder. Vielfältige Komponenten, abseits des technologischen Aspektes, sowie emotionale Kompetenz kommen damit bei der Entwicklung von AI verstärkt zum Tragen. Emotionale Intelligenz und Empathie wird als notwendiger Bestandteil fortschrittlicher Entwicklung von AI weitläufig unterschätzt.

Strategische Umsetzung mit dem Menschen im Mittelpunkt

Wir sind täglich mit künstlicher Intelligenz in Berührung. Es fängt bei Sprachassistenten an und hört bei komplexen Algorithmen, die zur Bekämpfung schwerer Erkrankungen eingesetzt werden noch lange nicht auf. Es geht immer weniger darum, was ein Computer oder eine AI-Anwendung kann. Es geht darum, was AI tun soll. Regelungen und Methoden müssen entwickelt werden, um Haftbarkeitsfragen zu klären, hält Strolz fest „Um sicher zu stellen, dass der Mensch der Chef ist und bleibt, brauchen wir einen sogenannten „Kill-Switch“.

„AI-Strategien werden bereits ausformuliert und diskutiert. Nun geht es um die Umsetzung“, fasst Ritz zusammen. „Um international mithalten zu können, muss das Thema in Österreich sowohl von der Wirtschaft als auch von der Politik weiter vorangetrieben werden – ohne dabei die Bürger und Bürgerinnen zu überrumpeln und zu überfordern.“ Dem stimmt Ludwig zu: „Es sind schon Richtlinien vorhanden, es liegt nun an uns, diese auch konkret zu realisieren!“ Parallel zu den technologischen Errungenschaften betont Strolz die Stärkung des Menschen als sozial-biologisches System: „Machine Learning und AI werden Veränderungen ermöglichen, die wir uns heute noch schwer vorstellen können. Aber eine Maschine wird nie eine Seele haben und diesen Unterschied gilt es zu kultivieren.“

Um genau das sicherzustellen, gilt es nun konkrete und gezielte Rahmenbedingungen zu entwickeln, die vorgeben was AI tun soll. Im Zuge der Breakout Session in Alpbach wurden zahlreiche Impulse entwickelt, die der Politik als Steilpass dienen können.

Weiterführende Infos:

Microsoft übernimmt Verantwortung für die ethische Umsetzung von AI

AI and Ethics in Engineering and Research (AETHER)
Microsoft hat 2018 ein eigenes, internes AI & Ethik Gremium ins Leben gerufen. Die Aufgabe des AI and Ethics in Engineering and Research (AETHER) Committee ist es, die ethischen Herausforderungen auf allen Ebenen des Unternehmens zu diskutieren und anzupacken. Zusätzlich ist Microsoft ein Gründungsmitglied von The Partnership on AI. Bestehend aus führenden Unternehmen, politischen Entscheidungsträgern, Forschern, Wissenschaftlern und Vertretern von NGOs, treibt die Organisation die Diskussion über ethische AI voran.

Microsoft AI Prinzipien
Das Unternehmen hat sechs ethische Prinzipien für Entwicklung und Anwendung intelligenter Technologien definiert.

Diskriminierungsfreiheit: Entscheidungen, die durch intelligente Technologien herbeigeführt werden, müssen für alle Menschen die gleichen Resultate ergeben, wenn die gleichen Informationen über sie vorliegen und dieselben Voraussetzungen gelten. Diskriminierende Effekte gilt es zu verhindern.
Zuverlässigkeit: AI-Systeme müssen nach klaren Parametern gestaltet werden und strenge Tests durchlaufen, um sicherzustellen, dass sie auch in unvorhergesehenen Situationen sicher sind. Menschen sollen eine wichtige Rolle bei der Entscheidung spielen, wie und wann AI-Systeme eingesetzt werden.
Datenschutz und –sicherheit: AI-Systeme müssen den Regeln und Gesetzen für das Sammeln, Nutzen und Speichern von Daten entsprechen. Daten müssen sicher vor unbefugtem Zugriff gespeichert werden.
Barrierefreiheit: AI-Lösungen müssen eine große Bandbreite von menschlichen Bedürfnissen und Erfahrungen adressieren und inklusiv gestaltet werden. Die unbeabsichtigte Ausgrenzung von Individuen oder Gruppen durch intelligente Technologien muss vermieden werden.
Transparenz: Es muss dafür gesorgt werden, dass Menschen verstehen, wie AI Systeme funktionieren. Grundsätzlich muss nachvollziehbar sein, auf welcher Basis intelligente Technologien Entscheidungen treffen. Falsche oder tendenziöse Entscheidungen müssen als solche erkannt werden können.
Verantwortlichkeit: Entwickler intelligenter Technologien sind dafür verantwortlich, dass ihre Anwendungen entsprechend ihren Angaben funktionieren. Ethische und datenschutzrechtliche Fragen müssen bereits während des Entwicklungsprozesses beachtet werden.

Zitate:

Matthias Strolz:
„Gefragt sind Strategien der Parlamente, in Österreich sind diese noch ausständig. Deutschland hat hingegen bereits eine Strategie präsentiert und will bis 2025 drei Milliarden für eine gemeinwohlorientierte Nutzung von AI bereitstellen. Diese Summe steht jedoch in keiner Relation zum Thema, darüber können Nationen wie China nur lachen.“

„Machine Learning und AI werden Veränderungen ermöglichen, die wir uns heute noch schwer vorstellen können. Aber eine Maschine wird nie eine Seele haben und diesen Unterschied gilt es zu kultivieren.“

Bernd Carsten Stahl:
„Etablierte Ansätze müssen nicht wieder neu erfunden werden, um sinnvoll weiter zu kommen, müssen wir über den Hype hinausblicken. Es gilt festzustellen, welche Probleme vorhanden sind und existierende Lösungsansätze aufzugreifen und weiterentwickeln.“

Andreas J. Ludwig:
„AI bietet uns in Bereichen wie Forschung, Gesundheit oder Umwelt immense Chancen. Ich fürchte allerdings, dass unser Wertesystem – und somit auch die politischen und gesellschaftlichen Governance Systeme – das gesamte Ausmaß der damit einhergehenden ethischen Herausforderungen noch nicht ermessen können. Es braucht globale Konzepte und Leitlinien, damit die humangesellschaftlichen Auswirkungen uns nicht böse überraschen.“

Dorothee Ritz:
„Aus wirtschaftlicher Sicht ist AI ein Wachstumstreiber ersten Ranges, bei der Entwicklung neuer AI-Technologien muss der Fokus jedoch ganz klar auf dem ethischen Umgang sowie auf der Demokratisierung der entwickelten Technologien liegen“

„AI-Strategien werden bereits ausformuliert und diskutiert, nun geht es um die Umsetzung. Um international mithalten zu können, muss das Thema in Österreich sowohl von der Wirtschaft als auch von der Politik weiter vorangetrieben werden – ohne dabei die Bürger und Bürgerinnen zu überrumpeln und zu überfordern.“

Quelle Statistik:
Artificial Intelligence in Europe (Österreich), Studie von EY in Auftrag von Microsoft
Mission with Vision, Studie von Accenture im Auftrag von BMVIT und BMDW

Bildmaterial & Fotocredit:

Druckfähiges Bildmaterial zum Arbeitskreis von Microsoft Österreich in Alpbach finden Sie hier: https://www.apa-fotoservice.at/galerie/19623