--- title: anacision | Künstliche Intelligenz – Risiken description: Teil 6 unserer KI-Reihe zeigt auf, welche Risiken Algorithmen bergen können. image: https://www.anacision.de/hubfs/Blog%20Thumbnails/anacision-blog.png --- [![Logo-1](https://www.anacision.de/hs-fs/hubfs/Logo-1.png?width=180&height=66&name=Logo-1.png "Logo-1")](https://www.anacision.de/) [![Logo anacision](https://www.anacision.de/hs-fs/hubfs/Logo.png?width=150&height=150&name=Logo.png "Logo anacision")](https://www.anacision.de/) [![Logo anacision](https://www.anacision.de/hs-fs/hubfs/Logo.png?width=150&height=150&name=Logo.png "Logo anacision")](https://www.anacision.de/) Dies ist ein Suchfeld mit einer automatischen Vorschlagsfunktion. - Es gibt keine Vorschläge, da das Suchfeld leer ist. - [Unsere Leistungen](https://www.anacision.de/de/unsere-leistungen) - [Proof-of-Concept](https://www.anacision.de/de/proof-of-concept) - [Data Innovation Workshop](https://www.anacision.de/de/data-innovation-workshop) - [KI-Kompetenzschulung](https://www.anacision.de/de/ki-schulung) - [Kompakte KI-Schulung](https://www.anacision.de/de/kompakte-ki-kompetenzschulung) - [Unternehmen](https://www.anacision.de/unternehmen) - [Über anacision](https://www.anacision.de/de/über-uns) - [Karriere](https://www.anacision.de/de/karriere) - [Referenzen](https://www.anacision.de/de/referenzen) - [Blog](https://www.anacision.de/de/blog) - [Kontakt](https://www.anacision.de/de/kontakt) Dies ist ein Suchfeld mit einer automatischen Vorschlagsfunktion. - Es gibt keine Vorschläge, da das Suchfeld leer ist. # Künstliche Intelligenz – Risiken by [anacision GmbH](https://www.anacision.de/de/blog/author/anacision-gmbh)   |   Okt. 6, 2019 **Künstliche Intelligenz (KI) ist ein Schlagwort wie viele andere und wird im Moment ziemlich gehypt. Doch was steckt eigentlich hinter diesem Begriff? In unserer Blogreihe "Künstliche Intelligenz" beschäftigen wir uns unter anderem mit Versprechen und Mythen der KI. Wir erfahren, wie KI eigentlich definiert wird und widmen uns ihren Herausforderungen und Anwendungsbeispielen.** Ein paar Dinge sind im Kopf zu behalten, wenn man über KI und vermeintlich „intelligente“ Systeme spricht. So ein System besteht, vereinfacht gesprochen, aus einem Algorithmus und dem, was man in ihn hineinsteckt. Solch ein System wird von Menschen erstellt. Damit ergeben sich grob **drei Kategorien von Fehlerquellen**, die Risiken bergen können: - Die Algorithmen der KI werden von **Menschen** gebaut. Sie entstehen aus deren Gedankenwelt, welche sich im Algorithmus widerspiegelt. Es kann also passieren, dass Algorithmen nach individuellen Einstellungen und Vorurteilen („bias“) oder gesellschaftlichen Normen agieren. Des Weiteren können auch Fehler in der Implementierung auftreten. - **Daten** sind die Quelle, aus denen Algorithmen lernen und Regeln ableiten. Sind die Daten fehlerhaft, nicht repräsentativ oder mit Vorurteilen („bias“) behaftet, so übernimmt der Algorithmus diese Eigenschaften. Ebenso kann man den Algorithmus durch Hinzugabe gefälschter Daten (Sucheingaben) manipulieren, indem er aus diesen ein falsches (Entscheidungs-)Verhalten lernt. - Große Relevanz hat außerdem die **Nachvollziehbarkeit/Transparenz** des Systems. Computer tun erstmal das, was man ihnen sagt. Doch wenn Algorithmen entwickelt werden, die nicht vollständig verstanden sind, so kann es passieren, dass diese Dinge ausgeben (oder tun), die man nicht beabsichtigt hat. Vor allem für Betroffene kann es sehr schwer werden die Entscheidungen des Algorithmus nachzuvollziehen. Ein Risiko, was auch an fehlender Nachvollziehbarkeit liegt, ist, dass sich Menschen zu sehr auf die Ergebnisse des Algorithmus in Entscheidungen verlassen. Am Ende trifft der Algorithmus die Entscheidungen, statt als Entscheidungs*hilfe* zu dienen, da der Anwender die Entscheidung des Algorithmus nicht nachvollziehen kann und ihm zu sehr vertraut. Menschliche Vorurteile spiegeln sich in Algorithmen als sogenannter „**bias**“ wider. Dieser kann von den Entwicklern kommen, oder von den Daten, auf denen der Algorithmus trainiert. Bekannte Kriterien sind Geschlecht und Hautfarbe. Ein Beispiel dazu: Gesichtserkennungssoftware, die überwiegend mit Bildern von hellhäutigen Männern trainiert wurde, [erkennt weder Personen mit dunklerer Hautfarbe noch Frauen besonders gut](https://www.nytimes.com/2018/02/09/technology/facial-recognition-race-artificial-intelligence.html). Intelligente Algorithmen finden auch Zusammenhänge oder **Korrelationen**, an die Entwickler nicht denken und die man auch gar nicht als Entscheidungskriterium haben *will.* Beispielsweise gab es einen Fall, bei dem KI festgestellt hat, dass[Mitarbeiter, die weiter weg vom Arbeitsplatz wohnen, schneller kündigen](https://www.zeit.de/arbeit/2018-10/bewerbungsroboter-kuenstliche-intelligenz-amazon-frauen-diskriminierung), und dementsprechend neue Bewerber beurteilt hat.  In der Arbeit mit Algorithmen ist es wichtig, sich über diese potenziellen Quellen von Fehlern und "bias" im Klaren zu sein. Gerade, wenn Algorithmen als Entscheidungsunterstützung dienen und damit direkt Menschen betreffen, sind wichtige Fragen im Vorfeld zu klären: Spiegelt der Algorithmus nur das wider, was der Entwickler eh schon sieht? Ist die Datengrundlage divers genug? Wie kann die Nachvollziehbarkeit der Algorithmen verbessert werden? Auch wenn Algorithmen bereits heute als "intelligent" bezeichnet werden, heißt das nicht, dass für ihre Entwicklung keine menschliche Intelligenz mehr benötigt wird. Weiterführende Links: - [Diskriminierung von Bewerberinnen in einem Tool von Amazon](https://www.zeit.de/arbeit/2018-10/bewerbungsroboter-kuenstliche-intelligenz-amazon-frauen-diskriminierung) - COMPAS, eine Software zur Unterstützung von Richtern in den USA, die laut einer [Studie von ProPublica](https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm) schwarze Angeklagte diskriminiert - [SHAP](https://shap.readthedocs.io/en/latest/) und [LIME](https://arxiv.org/abs/1602.04938), zwei Ansätze, um Machine-Learning- und KI-Modelle nachvollziehbarer zu machen --- Der Begriff der Künstlichen Intelligenz ist noch in der Findungsphase. Daher spiegelt diese Blogreihe unsere Sichtweise wider und erhebt keinen Anspruch auf Vollständigkeit. In den nächsten Blogbeiträgen werden wir uns den rechtlichen Aspekten von KI widmen. Den nächsten Blogartikel finden Sie [hier.](https://www.anacision.de/aktuelles/kuenstliche-intelligenz-rechtliche-aspekte) [< Previous Post](https://www.anacision.de/de/blog/process-mining) [Next Post >](https://www.anacision.de/de/blog/artikel-im-european-journal-of-operational-research-veroeffentlicht) ### Related posts [Mehr als ein Chatbot 1: Nicht jede KI braucht einen Chatbot](https://www.anacision.de/de/blog/mehr-als-ein-chatbot-teil1) [Wenn KI schummelt: Warum der wichtigste Schritt vor dem Training passiert](https://www.anacision.de/de/blog/wenn-ki-schummelt-warum-der-wichtigste-schritt-vor-dem-training-passiert) [Effizienz als neuer Maßstab für KI](https://www.anacision.de/de/blog/effizienz-als-neuer-maßstab) [![anacision_logo](https://www.anacision.de/hs-fs/hubfs/Logo_wg.png?width=150&height=43&name=Logo_wg.png "anacision_logo")](https://www.anacision.de/) anacision GmbH Roonstraße 23 a 76137 Karlsruhe   Telefon: +49 721 16176970 E-mail: [info@anacision.de](mailto:info@anacision.de) [mailto:info@anacision.de](mailto:info@anacision.de) [Follow us on LinkedIn](https://www.linkedin.com/company/anacision/)   [Impressum](https://www.anacision.de/de/impressum) | [Datenschutz](https://www.anacision.de/datenschutz) | [AGB](https://www.anacision.de/agb)[mailto:info@anacision.de](mailto:info@anacision.de) [![anacision_bitmi](https://www.anacision.de/hs-fs/hubfs/anacision_bitmi.png?width=150&height=150&name=anacision_bitmi.png "anacision_bitmi")](https://www.anacision.de/) [![anacision_Cyberforum](https://www.anacision.de/hs-fs/hubfs/anacision_Cyberforum.png?width=150&height=150&name=anacision_Cyberforum.png "anacision_Cyberforum")](https://www.anacision.de/) [![knknbhvh](https://www.anacision.de/hs-fs/hubfs/knknbhvh.png?width=400&height=100&name=knknbhvh.png "knknbhvh")](https://www.anacision.de/)   [**Unternehmen **](https://www.anacision.de/de/unternehmen) [Über anacision](https://www.anacision.de/de/über-uns) [Unsere Leistungen](https://www.anacision.de/de/unsere-leistungen) [Karriere](https://www.anacision.de/de/karriere) [Kontakt](https://www.anacision.de/de/kontakt) [![anacision_zfu_Hell](https://www.anacision.de/hs-fs/hubfs/anacision_zfu_Hell.png?width=150&height=150&name=anacision_zfu_Hell.png "anacision_zfu_Hell")](https://www.anacision.de/)   **Ressourcen** [Blog](https://www.anacision.de/de/blog) [Referenzen](https://www.anacision.de/de/referenzen) [KI-Richtlinien](https://www.anacision.de/de/ki-richtlinien)   [![anacision_iso](https://www.anacision.de/hs-fs/hubfs/anacision_iso.png?width=150&height=150&name=anacision_iso.png "anacision_iso")](https://www.anacision.de/) ```json { "@context" : "https://schema.org", "@type" : "BlogPosting", "author" : { "@type" : "Person", "name" : "anacision GmbH", "url" : "https://www.anacision.de/de/blog/author/anacision-gmbh" }, "dateModified" : "2022-10-07T06:14:13.039Z", "datePublished" : "2019-10-06T22:00:00.000Z", "headline" : "anacision | Künstliche Intelligenz – Risiken", "image" : [ "https://www.anacision.de/hubfs/Blog%20Thumbnails/anacision-blog.png" ], "mainEntityOfPage" : { "@id" : "https://www.anacision.de/de/blog/kuenstliche-intelligenz-risiken", "@type" : "WebPage" }, "publisher" : { "@type" : "Organization", "logo" : { "@type" : "ImageObject", "url" : "https://www.anacision.de/hubfs/Logo.png" }, "name" : "anacision GmbH" } } ```