Künstliche Intelligenz: Wie Unternehmen sie anwenden sollten

Während Künstliche Intelligenz schon längst tief in unseren Alltag eingreift, herrschen in breiten Teilen der allgemeinen Öffentlichkeit und in Unternehmen diffuse Ratlosigkeit und Besorgnis, gepaart mit ebenso diffuser Zukunftshoffnung.

Das Kompetenzzentrum Öffentliche IT (ÖFIT) des Fraunhofer-Institut für Offene Kommunikationssysteme Fokus hat daher das Bündel einmal aufgeschnürt und bewertet die einzelnen Stränge. Die Autoren Christian Welzel und Dorian Grosch stellen im IT-Channel von buchreport.de die wichtigsten Fakten aus dem „ÖFIT-Trendsonar“ vor. Im ersten Teil des Beitrags ging es um Anwendungsbereiche und Potenziale und wie lange es dauern könnte, bis die jeweilige Technologie ihren Durchbruch erzielen wird.

Im zweiten Teil nehmen sie, gestützt auf Verbraucher- und Expertenbefragungen, zu Fragen der gesellschaftlichen Akzeptanz Stellung und schließen mit einem Bündel von Empfehlungen für Wirtschaft und Politik.

Gesellschaftliche Akzeptanz

Begründet durch die technologischen Fortschritte der letzten Jahre hat sich die Künstliche Intelligenz von einem wissenschaftlichen Nischendasein zu einem gesamtgesellschaftlich relevanten Thema entwickelt.

Der Einsatz von KI-Systemen in alltäglichen Anwendungen wie Sprachassistenten, automatischen Übersetzungswerkzeugen oder Bilderkennung unterstreicht diese Entwicklung. Gleichzeitig zeigt eine repräsentative Befragung des Kompetenzzentrums Öffentliche IT eine gewisse Skepsis bei den Bürgern was den Einsatz von KI-Technologien betrifft:

• 44% empfinden KI als Bereicherung
• Fast ein Drittel steht dem Thema neutral gegenüber
• Etwa jeder Fünfte empfindet KI sogar als Bedrohung (siehe Abbildung 3).

Als wesentliche Gründe für die Ablehnung werden unter anderem drohender Arbeitsplatzverlust, mangelnde rechtliche Rahmenbedingungen oder Sicherheitsrisiken bzw. die Fehleranfälligkeit angegeben. Jene, die KI hingegen als Bereicherung empfinden, nennen unter anderem Arbeitserleichterung oder Hilfe im Alltag sowie Effizienz und Wirtschaftsstärke als vorrangige Gründe.

Abbildung 3: Während viele in KI eine Bereicherung sehen, empfindet etwa jeder Fünfte sie als Bedrohung. Grafik: Fraunhofer Institut FOKUS.

Die höchste Akzeptanz erhalten automatische Systeme dann, wenn sie nur unterstützend agieren, also ein Mensch die letztendliche Entscheidung trifft. Sobald KI-Systeme jedoch selbstständig Entscheidungen treffen, überwiegt die Ablehnung bei der Bevölkerung, mit einer Ausnahme: im Bereich der autonomen Fahrzeuge (siehe Abbildung 4).

Abb. 4: KI-Systeme werden eher als Unterstützungs- denn als Entscheidungssysteme akzeptiert. Grafik: Fraunhofer Institut FOKUS.

Damit verbunden ist der Wunsch vieler Bürgerinnen und Bürger nach klaren politischen Rahmenbedingungen. Dies wird besonders deutlich, wenn die Bürger nach ihrer Zustimmung zu aktuellen politischen Forderungen befragt werden (siehe Abbildung 5). Mehr als 90 % der Befragten sind dafür, dass

1. automatisiert getroffene Entscheidungen und automatisiert erzeugte Inhalte klar gekennzeichnet werden,
2. KI-Systeme von einer unabhängigen Stelle kontrolliert werden können und
3. der Staat sich für die Erfüllung seiner Aufgaben nicht auf KI-Systeme eines einzelnen Herstellers verlässt.

Abbildung 5: Zustimmung zu aktuellen politischen Forderungen im Kontext von KI. Grafik: Fraunhofer-Institut FOKUS.

Dabei ist KI kein Thema, das in ferner Zukunft liegt. Ebenfalls mehr als 90 % der Befragten sehen den Staat in der Pflicht, jetzt Rahmenbedingungen für den Einsatz von KI zu schaffen.

Außerdem sehen etwa zwei von drei Befragten den Staat in der Verantwortung, allen einen Zugang zu geeigneten Trainingsdaten für die Entwicklung eigener KI-Systeme zu ermöglichen.

Handlungsempfehlungen

Den durch KI hervorgerufenen gesellschaftlichen Wandel beobachten und die Entwicklung aktiv mitgestalten

KI-Systeme sind bereits im alltäglichen Leben angekommen, auch wenn sie nicht direkt als solche wahrgenommen werden. Sprachassistenten wie Siri, Alexa oder Google Now verändern die Mensch-Maschine-Interaktion. Empfehlungs- und Unterstützungssysteme sowie Assistenzsysteme haben Einfluss beispielsweise auf das Konsumverhalten. Nicht zuletzt werden auch durch KI-gestützte Automatisierung klassische Berufsbilder bedroht oder massiv verändert. Die sich daraus ergebenden Wandlungsprozesse in der Gesellschaft gilt es zu beobachten und Veränderungen frühzeitig zu identifizieren. Entsprechende Maßnahmen erfordern einen breiten gesellschaftlichen Diskurs.

IT-Grundlagen und Technologien der Zukunft

Mehr zum Thema IT und Digitalisierung lesen Sie im IT-Channel von buchreport und den Channel-Partnern knk und Rhenus. Hier mehr

Darüber hinaus sollte die Politik die Entwicklung aktiv mitgestalten, etwa durch Sektor-spezifische Regulierung. Die Schaffung einer unabhängigen Stelle, die die gesamtgesellschaftlichen Auswirkungen und den Einsatz von Algorithmen bewertet, könnte dabei ebenso hilfreich sein wie die Etablierung von Qualitätssiegeln.

Ausbildung im Bereich KI stärken

Mit der steigenden Nachfrage nach KI-Systemen und der zunehmenden „Smartifizierung“ steigt auch die Nachfrage nach KI-Expertise. Die Ausbildung sowohl im Hochschul- als auch im handwerklich-industriellen Aus- und Weiterbildungsbereich muss auf diese Entwicklung reagieren. Dazu zählen neben der Vermittlung technologischer Grundlagen auch ethische Grundsätze und rechtliche Rahmenbedingungen.

Mitarbeiter in Wirtschaft oder Verwaltung, die mit KI-Systemen arbeiten, müssen die mittels KI automatisiert erzeugten Ergebnisse richtig einordnen und interpretieren können. Diese Kompetenzen erwerben zu können, muss durch ein geeignetes Weiterbildungs- und Schulungsangebot unterstützt werden.

Diversität bei der Entwicklung von KI-Systemen sicherstellen

Die Zuverlässigkeit und Qualität der Ergebnisse von KI-Systemen hängt sehr stark von den eingesetzten Algorithmen und Methoden sowie der Auswahl geeigneter Trainingsdaten ab. Letztere müssen beispielsweise diskriminierungs- und vorurteilsfrei sein. Um das zu erreichen, sollte bei der Entwicklung von KI-Systemen darauf geachtet werden, dass die Entwicklerteams interdisziplinär und interkulturell aufgestellt sind.

Monopole verhindern

Damit die Entwicklung von KI-Systemen nicht einer kleinen Elite vorbehalten bleibt, müssen neben umfangreicher KI-Expertise vor allem zwei Voraussetzungen erfüllt sein: Freier Zugang zu Software und Algorithmen sowie die Verfügbarkeit von Trainingsdaten. Während es bereits frei verfügbare Open-Source-Softwarelösungen für KI gibt, ist der Zugang zu Trainingsdaten schwierig. Zwar gibt es vereinzelte Initiativen, für freie Trainingsdaten, wie etwa das Common-Voice-Projekt der Mozilla Foundation3. Solche Ansätze bilden jedoch die Ausnahme und können mit den Datenbeständen großer datengetriebener Plattformen nicht mithalten. Die Verfügbarkeit nicht personenbezogener, hochqualitativer und frei verfügbarer Daten bzw. die Öffnung bislang proprietärer Trainingsdatenquellen wird zu einer gesellschaftspolitischen Aufgabe, die der Staat fördern und regulierend unterstützen sollte.

Forschung und Entwicklung gezielt fördern

Deutschland gehört zu den führenden Nationen im Bereich der KI-Forschung. Diese Führungsposition gilt es durch eine kluge Förderpolitik zu verteidigen. Im Mittelpunkt der Forschungsförderung müssen jene Aspekte stehen, die die Zuverlässigkeit und Akzeptanz von KI-Anwendungen steigern. Da viele der aktuell eingesetzten Verfahren Black-Box-Algorithmen sind, lassen sie keinen Einblick in den Entscheidungsfindungsprozess zu. Verfahren, die Nachvollziehbarkeit und Transparenz automatisiert getroffener Entscheidungen stärken, sollten daher in besonderem Maße gefördert werden.

Ex-post-Einsatz von KI-Software

Auch wenn KI-Systeme nur unterstützend eingesetzt werden und ein Mensch die letztendliche Entscheidung trifft, so stellt sich doch die Frage, inwiefern die Empfehlung eines KI-Systems nicht bereits eine De-facto-Entscheidung darstellt. Soll ein KI-System nur als Empfehlung für den menschlichen Entscheider dienen, ist es wichtig, an welcher Stelle im Entscheidungsfindungsprozess die Empfehlung einbezogen wird. In besonders sensiblen Bereichen würde ein Ex-post-Einsatz solcher KI-Systeme ermöglichen, dass ein menschlicher Entscheider sein Urteil zunächst eigenständig trifft und anschließend durch spezialisierte KI-Software überprüfen kann. Auf diese Weise könnte die Qualität einer Entscheidung zunehmen, die menschliche Urteilskomponente aber erhalten bleiben.

(Linzenz CC BY 3.0)

Zur vollständigen Studie mit allen Infografiken.