{"id":11246,"date":"2021-02-02T09:10:04","date_gmt":"2021-02-02T09:10:04","guid":{"rendered":"https:\/\/cyber-valley.de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/"},"modified":"2026-07-15T14:44:27","modified_gmt":"2026-07-15T14:44:27","slug":"in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe","status":"publish","type":"news","link":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/","title":{"rendered":"In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\"><strong>Die Errungenschaften von k\u00fcnstlicher Intelligenz (KI) werden meist als Erfolgsgeschichten betrachtet: KI \u00fcbersetzt Texte mit einer beeindruckenden Treffsicherheit, erkennt Krebs teilweise besser als \u00c4rztinnen und \u00c4rzte. Dabei ger\u00e4t oftmals in den Hintergrund, dass KI auch Fehler macht. In welchen verschiedenen Formen diese in Erscheinung treten, hat ein internationales Team von Wissenschaftlern in einem Perspektiven-Papier zusammengetragen. Darin richten sie ihren Fokus darauf, wie KI lernt und wie es passieren kann, dass hierbei etwas schiefgeht, obwohl die Algorithmen bei \u00fcblichen Testverfahren gut abschneiden.<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Das interdisziplin\u00e4re Team aus Wissenschaftlern der Universit\u00e4t T\u00fcbingen (Robert Geirhos, Claudio Michaelis, Wieland Brendel, Matthias Bethge, Felix Wichmann) und der Universit\u00e4t Toronto, Kanada (J\u00f6rn-Henrik Jacobsen, Richard Zemel) beobachtete, dass viele Fehler von KI sozusagen heimlich entstehen und zun\u00e4chst unbemerkt bleiben. Beispielsweise scheint eine KI auf den ersten Blick hervorragend zu erkennen, welche Tiere sich auf einem Foto befinden. Erst bei genauerem Hinsehen stellt sich heraus, dass die KI eine deutlich bequemere Strategie gefunden hat und manchmal einfach nur auf den Hintergrund achtet: So wird eine leere gr\u00fcne H\u00fcgellandschaft von der KI kurzerhand als \u201eHerde grasender Tiere\u201c bezeichnet \u2013 denn oft stehen Tiere vor gr\u00fcnem Hintergrund \u2013, w\u00e4hrend eine Kuh vor einem un\u00fcblichen Hintergrund, beispielsweise am Strand, dagegen nicht erkannt wird. Was zun\u00e4chst wie ein lustiger Fehler wirkt, kann durchaus ernste Konsequenzen nach sich ziehen. Denn \u00e4hnliche KI-Verfahren werden beispielsweise auch in Autos mit modernen Fahrassistenz-Systemen zur Erkennung von Fu\u00dfg\u00e4ngern eingesetzt und in der Medizin bei der Fr\u00fcherkennung von Krebserkrankungen getestet.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dieses \u201eShortcut Learning\u201c ist kein Ph\u00e4nomen, das nur bei KI-Systemen vorkommt, im Gegenteil. Derartige Abk\u00fcrzungen beim Lernen sind ebenfalls in der Natur zu beobachten, auch bei Menschen. Ein Beispiel: Wenn Sch\u00fclerinnen und Sch\u00fcler im Geschichtsunterricht lediglich Jahreszahlen auswendig lernen, ohne ein tieferes Verst\u00e4ndnis f\u00fcr historische Zusammenh\u00e4nge zu entwickeln, nur um die spezifischen Anforderungen einer Klassenarbeit zu erf\u00fcllen. Oder ein Beispiel aus der Tierwelt: Bei einem Experiment, in dem Ratten durch ein Labyrinth mit unterschiedlich gef\u00e4rbten W\u00e4nden zum Ziel finden mussten, waren die Tiere schnell zielsicher unterwegs. Verbl\u00fcffenderweise fanden sie sich viel besser zurecht, als es die Versuchsleiter erwartet hatten. Die F\u00e4higkeit, Farben optisch unterscheiden zu k\u00f6nnen, ist bei dieser Rattengattung n\u00e4mlich nicht besonders ausgepr\u00e4gt. Erst nach einer genauen \u00dcberpr\u00fcfung der Testergebnisse wurde klar, dass die Tiere nicht mit ihren Augen durchs Labyrinth fanden. Sie hatten stattdessen dank ihres ausgepr\u00e4gten Geruchssinns die richtige Route erlernt, denn die verschiedenen Wandfarben rochen unterschiedlich.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Analog dazu suchen sich auch KI-Systeme oftmals irgendeinen Weg zum Ziel, der sich f\u00fcr das System gerade am meisten anbietet. Das mag bei Bildern von K\u00fchen in unterschiedlichen Landschaften nicht weiter tragisch sein. Dieses Verhalten wird aber dann problematisch, wenn etwa Banken bei der Kreditvergabe Algorithmen einsetzen. So kann es in den USA vorkommen, dass \u00fcber die Postleitzahl des Antragstellers auf das soziale Milieu geschlossen wird \u2013 und damit auch \u00fcber die Wahrscheinlichkeit der R\u00fcckzahlung, also die Kreditw\u00fcrdigkeit. Die Abk\u00fcrzung in diesem Fall: \u00dcber die Angabe der Postleitzahl gewinnt eine Korrelation an entscheidender Bedeutung. Ob es aber einen kausalen Zusammenhang zwischen der Postleitzahl und der tats\u00e4chlichen Kreditw\u00fcrdigkeit des Bankkunden gibt, kann der Algorithmus nicht ermitteln.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a rel=\"noopener\" target=\"_blank\" href=\"https:\/\/www.nature.com\/articles\/s42256-020-00257-z\">In ihrem Aufsatz, einem \u201ePerspective Article\u201c, der in der Fachzeitschrift \u201eNature Machine Intelligence\u201c ver\u00f6ffentlicht wurde<\/a>, beschreiben die Wissenschaftler das gemeinsame Muster hinter vielen dieser von anderen Forschenden berichteten Anekdoten. Sie fordern, dass KI in Zukunft st\u00e4rker unter die Lupe genommen wird. Gute Testnoten von KI-Lernverfahren in den g\u00e4ngigen Testverfahren sind nicht ausreichend, um eine gute Alltagstauglichkeit zu garantieren. Konkret regen die Autoren an, in der KI-Forschung st\u00e4rkere Testverfahren zu entwickeln und anzuwenden. \u201eDie g\u00e4ngigen Standard-Testverfahren sind zu schwach, denn dadurch werden die Algorithmen h\u00e4ufig nur auf \u00e4hnlichen Daten getestet\u201c, sagt Robert Geirhos, Doktorand an der Universit\u00e4t T\u00fcbingen und Erstautor der Arbeit. \u201eWir pl\u00e4dieren deshalb daf\u00fcr, dass KI-Systeme mit deutlich schwereren Datens\u00e4tzen getestet werden, in denen Unerwartetes abgefragt wird und ihnen so Transferleistungen abverlangt werden.\u201c<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Denn solange man nicht untersucht hat, ob ein Algorithmus mit unerwarteten Bildern, wie beispielsweise einer Kuh am Strand, problemlos zurechtkommt, muss man zumindest in Betracht ziehen, dass das KI-System auf dem Weg zur Antwort eine Abk\u00fcrzung genommen hat. \u201eZum Gl\u00fcck ist das ,Abk\u00fcrzen\u2019 f\u00fcr einen Algorithmus aber nicht die einzige Option, sondern nur die bequemste\u201c, betont Geirhos. \u201eWenn man KI entsprechend herausfordert, kann sie durchaus hochkomplexe Zusammenh\u00e4nge erlernen.\u201c<\/p>\n","protected":false},"featured_media":11582,"parent":0,"template":"","meta":{"_acf_changed":false},"cv-tag":[],"location":[],"network-role":[],"news-category":[],"user-group":[245],"class_list":["post-11246","news","type-news","status-publish","has-post-thumbnail","hentry","user-group-researcher"],"acf":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v28.7 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe - Cyber Valley<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe - Cyber Valley\" \/>\n<meta property=\"og:description\" content=\"Die Errungenschaften von k\u00fcnstlicher Intelligenz (KI) werden meist als Erfolgsgeschichten betrachtet: KI \u00fcbersetzt Texte mit einer beeindruckenden Treffsicherheit, erkennt Krebs teilweise besser als \u00c4rztinnen und \u00c4rzte. Dabei ger\u00e4t oftmals in den Hintergrund, dass KI auch Fehler macht. In welchen verschiedenen Formen diese in Erscheinung treten, hat ein internationales Team von Wissenschaftlern in einem Perspektiven-Papier zusammengetragen. [&hellip;]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/\" \/>\n<meta property=\"og:site_name\" content=\"Cyber Valley\" \/>\n<meta property=\"article:modified_time\" content=\"2026-07-15T14:44:27+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/cyber-valley.de\/wp-content\/uploads\/2026\/02\/AdobeStock_7243316-scaled.jpeg\" \/>\n\t<meta property=\"og:image:width\" content=\"2560\" \/>\n\t<meta property=\"og:image:height\" content=\"1707\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data1\" content=\"4\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/news\\\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\\\/\",\"url\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/news\\\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\\\/\",\"name\":\"In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe - Cyber Valley\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/news\\\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/news\\\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/cyber-valley.de\\\/wp-content\\\/uploads\\\/2026\\\/02\\\/AdobeStock_7243316-scaled.jpeg\",\"datePublished\":\"2021-02-02T09:10:04+00:00\",\"dateModified\":\"2026-07-15T14:44:27+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/news\\\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/cyber-valley.de\\\/de\\\/news\\\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/news\\\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\\\/#primaryimage\",\"url\":\"https:\\\/\\\/cyber-valley.de\\\/wp-content\\\/uploads\\\/2026\\\/02\\\/AdobeStock_7243316-scaled.jpeg\",\"contentUrl\":\"https:\\\/\\\/cyber-valley.de\\\/wp-content\\\/uploads\\\/2026\\\/02\\\/AdobeStock_7243316-scaled.jpeg\",\"width\":2560,\"height\":1707},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/news\\\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/#website\",\"url\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/\",\"name\":\"Cyber Valley\",\"description\":\"From lab to market\",\"publisher\":{\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/#organization\",\"name\":\"Cyber Valley GmbH\",\"url\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/cyber-valley.de\\\/wp-content\\\/uploads\\\/2026\\\/05\\\/CV_Logo-Lockup_RGB_20210412.svg\",\"contentUrl\":\"https:\\\/\\\/cyber-valley.de\\\/wp-content\\\/uploads\\\/2026\\\/05\\\/CV_Logo-Lockup_RGB_20210412.svg\",\"width\":1112,\"height\":317,\"caption\":\"Cyber Valley GmbH\"},\"image\":{\"@id\":\"https:\\\/\\\/cyber-valley.de\\\/de\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/company\\\/cybervalley\\\/\",\"https:\\\/\\\/www.instagram.com\\\/cybervalley_bw\\\/\",\"https:\\\/\\\/www.youtube.com\\\/channel\\\/UCPi8donVDkcOeM4C0CfP5fg\",\"https:\\\/\\\/bsky.app\\\/profile\\\/cyber-valley.bsky.social\"]}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe - Cyber Valley","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/","og_locale":"de_DE","og_type":"article","og_title":"In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe - Cyber Valley","og_description":"Die Errungenschaften von k\u00fcnstlicher Intelligenz (KI) werden meist als Erfolgsgeschichten betrachtet: KI \u00fcbersetzt Texte mit einer beeindruckenden Treffsicherheit, erkennt Krebs teilweise besser als \u00c4rztinnen und \u00c4rzte. Dabei ger\u00e4t oftmals in den Hintergrund, dass KI auch Fehler macht. In welchen verschiedenen Formen diese in Erscheinung treten, hat ein internationales Team von Wissenschaftlern in einem Perspektiven-Papier zusammengetragen. [&hellip;]","og_url":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/","og_site_name":"Cyber Valley","article_modified_time":"2026-07-15T14:44:27+00:00","og_image":[{"width":2560,"height":1707,"url":"https:\/\/cyber-valley.de\/wp-content\/uploads\/2026\/02\/AdobeStock_7243316-scaled.jpeg","type":"image\/jpeg"}],"twitter_card":"summary_large_image","twitter_misc":{"Gesch\u00e4tzte Lesezeit":"4\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/","url":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/","name":"In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe - Cyber Valley","isPartOf":{"@id":"https:\/\/cyber-valley.de\/de\/#website"},"primaryImageOfPage":{"@id":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/#primaryimage"},"image":{"@id":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/#primaryimage"},"thumbnailUrl":"https:\/\/cyber-valley.de\/wp-content\/uploads\/2026\/02\/AdobeStock_7243316-scaled.jpeg","datePublished":"2021-02-02T09:10:04+00:00","dateModified":"2026-07-15T14:44:27+00:00","breadcrumb":{"@id":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/#primaryimage","url":"https:\/\/cyber-valley.de\/wp-content\/uploads\/2026\/02\/AdobeStock_7243316-scaled.jpeg","contentUrl":"https:\/\/cyber-valley.de\/wp-content\/uploads\/2026\/02\/AdobeStock_7243316-scaled.jpeg","width":2560,"height":1707},{"@type":"BreadcrumbList","@id":"https:\/\/cyber-valley.de\/de\/news\/in-den-faengen-der-bequemlichkeit-ki-unter-der-lupe\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/cyber-valley.de\/de\/"},{"@type":"ListItem","position":2,"name":"In den F\u00e4ngen der Bequemlichkeit: KI unter der Lupe"}]},{"@type":"WebSite","@id":"https:\/\/cyber-valley.de\/de\/#website","url":"https:\/\/cyber-valley.de\/de\/","name":"Cyber Valley","description":"From lab to market","publisher":{"@id":"https:\/\/cyber-valley.de\/de\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/cyber-valley.de\/de\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/cyber-valley.de\/de\/#organization","name":"Cyber Valley GmbH","url":"https:\/\/cyber-valley.de\/de\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/cyber-valley.de\/de\/#\/schema\/logo\/image\/","url":"https:\/\/cyber-valley.de\/wp-content\/uploads\/2026\/05\/CV_Logo-Lockup_RGB_20210412.svg","contentUrl":"https:\/\/cyber-valley.de\/wp-content\/uploads\/2026\/05\/CV_Logo-Lockup_RGB_20210412.svg","width":1112,"height":317,"caption":"Cyber Valley GmbH"},"image":{"@id":"https:\/\/cyber-valley.de\/de\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.linkedin.com\/company\/cybervalley\/","https:\/\/www.instagram.com\/cybervalley_bw\/","https:\/\/www.youtube.com\/channel\/UCPi8donVDkcOeM4C0CfP5fg","https:\/\/bsky.app\/profile\/cyber-valley.bsky.social"]}]}},"_links":{"self":[{"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/news\/11246","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/news"}],"about":[{"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/types\/news"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/media\/11582"}],"wp:attachment":[{"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/media?parent=11246"}],"wp:term":[{"taxonomy":"cv-tag","embeddable":true,"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/cv-tag?post=11246"},{"taxonomy":"location","embeddable":true,"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/location?post=11246"},{"taxonomy":"network-role","embeddable":true,"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/network-role?post=11246"},{"taxonomy":"news-category","embeddable":true,"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/news-category?post=11246"},{"taxonomy":"user-group","embeddable":true,"href":"https:\/\/cyber-valley.de\/de\/wp-json\/wp\/v2\/user-group?post=11246"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}