Neues Toolkit für verantwortungsvolle KI

Microsoft hat ein Toolkit für Human-AI eXperience (HAX) veröffentlicht. Die Sammlung von Best Practices unterstützt Developer-Teams bei der verantwortungsvollen Entwicklung und Umsetzung von Technologien mit künstlicher Intelligenz, die mit Menschen interagieren.

Es gibt immer mehr Produkte und Dienste, die mit künstlicher Intelligenz arbeiten. Virtuelle Assistent*innen im Call-Center, intelligente Routenplaner, Helferlein bei Textarbeiten, Präsentationen oder bei der Terminplanung erfreuen sich zunehmender Beliebtheit, weil sie immer nützlicher für uns werden. Aber künstliche Intelligenz arbeitet nicht immer fehlerfrei: KI-Anwendungen können einen Sprachbefehl falsch verstehen oder den Inhalt eines Bildes fehlerhaft interpretieren. Im schlimmsten Fall richten KI-Systeme sogar Schäden an, zum Beispiel wenn sie auf Basis solcher Fehlinterpretationen Entscheidungen treffen oder Handlungen ausführen, aus denen negative Konsequenzen resultieren können.

Werkzeuge für verantwortungsvolle Interaktion zwischen Mensch und KI

Aus diesen Gründen sind Richtlinien für die verantwortungsvolle Entwicklung von KI für uns von so großer Bedeutung. Dabei ist verantwortungsvolle KI nicht nur auf die Verbesserung von Algorithmen und Modellen beschränkt. Verantwortlicher Umgang mit KI zeigt sich auch in der praktischen Anwendung. Das HAX Toolkit wurde entwickelt, um praktische Werkzeuge und Anleitungen für die Interaktion zwischen Mensch und KI bereitzustellen.

Derzeit besteht das Toolkit aus vier Komponenten, die Teams während des gesamten Entwicklungsprozesses unterstützen:

  • Die „Guidelines for Human-AI-Interaction“ liefern praxisfertiges Wissen über die Interaktion zwischen Mensch und Maschine. Die Richtlinien sind in vier Gruppen unterteilt, die Entwickler*innen Tipps zu einzelnen Phasen in der Nutzung von KI geben: zu Beginn, während der Interaktion mit einem KI-System, für den Fall, dass ein KI-System Fehler macht und umgelenkt werden muss, und für den praktischen Gebrauch über die gesamte Lebenszeit einer KI-Lösung.
  • Das „HAX Workbook“ hilft Teams dabei, Zeit und Ressourcen besser zu planen, die für die Umsetzung der priorisierten Guidelines benötigt werden.
  • HAX Design Patterns“ bieten flexible Lösungen für häufig auftretende Probleme beim Entwurf von Mensch-Maschine-Systemen. Die Patterns liegen zusammen mit Implementierungsbeispielen in der „HAX Design Library“. In der Bibliothek lässt sich nach Richtlinien, Produktkategorien und Anwendungstypen recherchieren.
  • Das „HAX Playbook“ schließlich unterstützt beim Identifizieren und Beheben unvorhergesehener Fehler etwa bei Transkriptionen oder beim Umgang mit sogenannten falsch positiven Ergebnissen.

Bessere KI entsteht in der Zusammenarbeit von Menschen

Das HAX-Toolkit basiert auf 18 Richtlinien eines Teams bei Microsoft Research, die sich aus mehr als 20 Jahren KI-Forschung entwickelt haben und zuerst 2019 im Rahmen der Conference on Human Factors in Computing Systems (CHI) veröffentlicht wurden. In dem Zuge hatte das Microsoft-Team erkannt, dass für die Umsetzung dieser Richtlinien Tools und Best Practices hilfreich sind, die bei der Planung und Implementierung von KI-Systemen helfen. Die Werkzeuge richten sich an multidisziplinäre Teams aus Datenwissenschaftler*innen, Ingenieur*innen, Produktverantwortlichen, Designer*innen und anderen Projektbeteiligten. Über die Dokumente des Toolkits bekommen sie auch ein gemeinsames Vokabular für die unterschiedlichen Disziplinen an die Hand, das Verständigung und Kommunikation möglich macht und Missverständnisse ausräumen hilft.

Der ausführliche englischsprachige Blog zum HAX-Toolkit mit weiteren spannenden Informationen von meiner Kollegin Leah Culler ist hier zu finden.


Ein Beitrag von Pina Meisel
Communications Manager AI & Innovation

Pina Meisel als Portrait-Bild

Tags: , , , ,

Weitere Infos zu diesem Thema

23. Juli 2021
Microsoft-Studie zu Tech-Support-Scams: Betrügerische Anrufe in Deutschland nehmen zu

Sie geben sich als Mitarbeiter großer Technologiekonzerne aus und behaupten Sicherheitsprobleme beheben zu wollen – tatsächlich stecken hinter den sogenannten Tech-Support-Scams ausgeklügelte Betrügereien, bei denen Kriminelle es auf Geld oder Daten ihrer Opfer abgesehen haben. Eine global angelegte Studie der Microsoft Digital Crimes Unit zeigt nun die neusten Entwicklungen.