User Group: Wissenschaftler:innen

Prof. Steffen Staab wird zum 1. Februar 2020 auf die Cyber Valley Professur „Analytic Computing“ an der Universität Stuttgart berufen und die für 2020 geplante Gründung des neuen Instituts für Künstliche Intelligenz vorantreiben. Mit dem international anerkannten und viel zitierten Experten für Datenbanken und Informationssysteme sind nun vier Cyber Valley-Wissenschaftler an der Universität Stuttgart angesiedelt. Staabs Schwerpunkt liegt im Bereich der semantischen Technologien, einem Forschungszweig, der die Bedeutung von Daten verständlich macht.

Prof. Dr. Wolfram Ressel, Rektor der Universität Stuttgart, heißt Prof. Steffen Staab sehr herzlich willkommen: „Mit seiner Fokussierung auf Informationssysteme und Datenanalyse wird Prof. Staab die Erforschung intelligenter Systeme an der Universität Stuttgart und im Cyber Valley Baden-Württemberg weiter stärken. Besonders freut es uns, dass Staab seine Entscheidung für die Universität Stuttgart auch mit der Interdisziplinarität unserer Universität begründet. Dies bestätigt das besondere Profil der Universität Stuttgart als „Stuttgarter Weg“, der für die konsequente interdisziplinäre Vernetzung komplementärer Fachdisziplinen sowie die Integration von Ingenieur-, Natur-, Geistes- und Sozialwissenschaften steht.“

Staab selbst erwartet im Cyber Valley und an der Universität Stuttgart eine Vielzahl an Kooperationsmöglichkeiten, um seine Forschung im Bereich semantischer Technologien sowohl in der Grundlagen-, als auch in der anwendungsorientierten Forschung voranzubringen und dabei auch die gesellschaftlichen Auswirkungen zu hinterfragen: „Das Cyber Valley ist eine der frühesten und größten Initiativen in Deutschland, um die Forschungen zur Künstlichen Intelligenz zu verstärken. Zudem ist die Informatik an der Universität Stuttgart hervorragend positioniert, was sich unter anderem in zwei Exzellenz-Clustern ausdrückt, und es gibt eine etablierte Kultur der interdisziplinären Zusammenarbeit von Technik-, Geistes- und Sozialwissenschaften“, betont der Wissenschaftler.

Forschungsschwerpunkt semantische Technologien

Staabs Forschungsbereich der semantischen Technologien zielt darauf ab, die Bedeutung von Daten und Informationen zu verstehen. Diese Bedeutung lässt sich in Form von begrifflichen Modellen und Ontologien darstellen. Sie sind die Grundlage für Wissensnetze, die dem Rechner erlauben, bedeutungsvoll mit Daten umzugehen.

Um bedeutungstragende Muster algorithmisch zu finden, kommen Analyseverfahren aus dem Text und Data Mining oder der Informationsextraktion (zum Beispiel mittels Deep Learning) zum Einsatz. Auch Zusammenhänge zwischen Daten und ihrer Verwendung im Kontext (zum Beispiel durch ein Smartphone) lassen sich auf diese Weise untersuchen. So werden Wissensnetze in Daten gefunden. Diese sind insbesondere im Kontext von sozialen Netzwerken bedeutungsvoll.

Das größte Konstrukt, um Daten mit Bedeutung zu kommunizieren, ist das World Wide Web. Web Science untersucht, wie Netzwerke von Personen und Wissen im Web entstehen, wie Menschen damit umgehen und welche Folgen das für uns alle hat. „Das Web ist eine Bedeutungsmaschine, die ich durch meine Forschung verstehen möchte“, sagt Staab.

Über Prof. Steffen Staab
Steffen Staab, geboren 1970 in Würzburg, studierte Informatik und Computerlinguistik an der Universität Erlangen-Nürnberg und an der University of Pennsylvania. 1998 promovierte er an der Universität Freiburg in Informatik. Danach war er am Institut für Arbeitswissenschaft und Technologiemanagement (IAT) der Universität Stuttgart sowie am Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO tätig und wechselte anschließend an die Universität Karlsruhe (heute: KIT). 2004 wurde Staab zum Professor für Datenbanken und Informationssystem an der Universität Koblenz-Landau ernannt, wo er 2009 das Institute for Web Science and Technologies (WeST) gründete. Seit März 2015 hält er zudem einen Chair for Web and Computer Science an der University of Southampton.

Staab wurde 2014 Fellow der European Association for Artificial Intelligence. 2018 erhielt er den Akademiepreis des Landes Rheinland-Pfalz.
Vier Cyber Valley-Wissenschaftler an der Universität Stuttgart

Mit Prof. Steffen Staab sind nunmehr vier Cyber Valley-Wissenschaftler an die Universität Stuttgart berufen: Am Institut für Visualisierung und Interaktive Systeme beschäftigt sich seit 2018 Jun. Prof. Michael Sedlmair mit den Themen Augmented und Virtual Reality. Dr. Tian Qiu leitet seit 2019 die Cyber Valley Forschungsgruppe „Biomedical Microsystems” am Institut für physikalische Chemie (IPC) und wird dafür von der Vector Stiftung gefördert. Seit Anfang 2020 bekleidet Alexander Brem die Professur ‚Entrepreneurship in Technologie und Digitalisierung‘.

Bild: Max Kovalenko

Tübingen – The Cyber Valley Research Fund Board (RFB) recently issued a second call for proposals from the nine Cyber Valley research groups. Eight projects were recently approved for funding in the first round, and decisions on the second round are scheduled for the first quarter of 2020. 

The Cyber Valley Research Fund has a total volume of five million euros and comprises contributions from six of the research consortium’s industry partners. Its aim is to fund independent basic research projects in the multidisciplinary field of AI. Only Cyber Valley research groups are eligible to submit proposals.

“The projects that received funding in the first round are as diverse as the Cyber Valley research groups themselves,” said Matthias Tröndle of the Cyber Valley Managing Office. “Our scientists are already conducting world-class research in their respective fields, and we look forward to seeing the ideas they come up with next.” 

While the Cyber Valley Plenary Assembly and the research consortium’s industry partners suggest research themes that may serve as inspiration for potential projects, scientists are completely free to choose which research topics they propose and pursue.

Once submitted, the RFB evaluates the proposals and funding is allocated based on scientific excellence and originality. Effective immediately, Cyber Valley’s Public Advisory Board (PAB) assesses the societal and ethical implications of each project idea. Where necessary, the PAB expresses concerns, makes recommendations, and engages in debate with the RFB.

A full list of the current Cyber Valley Research Fund projects can be found here: https://cyber-valley.de/en/websites/cyber-valley/pages/research-projects

Further information on the Cyber Valley Research Groups can be found here: https://cyber-valley.de/en/research-groups

Further information about the Cyber Valley Public Advisory Board can be found here: https://cyber-valley.de/en/public-advisory-board

Ein Wissenschaftler-Team um Dr. Tian Qiu, Leiter der Cyber Valley Forschungsgruppe „Biomedizinische Mikrosysteme“, und Professor Peer Fischer vom Max-Planck-Institut für Intelligente Systeme in Stuttgart tragen entscheidend dazu bei, die komplexe Ausbildung von Chirurgen durch den Einsatz einer sehr realistischen Prostata-Attrappe zu verbessern. Sie entwickelten ein realistisches Modell, druckten es in 3D und ließen die Attrappe anschließend ein Ärzteteam der Universität Freiburg testen, die damit die operative Entfernung der Drüse simulierten. Um die Ergebnisse quantitativ auszuwerten, entwickelten die Wissenschaftler ein automatisches System, das jungen Chirurgen während ihrer Ausbildung unmittelbar nach jedem Training ein Feedback gibt – was mit echtem Gewebe unmöglich wäre.

Stuttgart/Freiburg – Angehende Piloten trainieren viele hundert Stunden in einem Flugsimulator, bevor sie in ein echtes Flugzeug fliegen dürfen. Im Gegensatz dazu haben Chirurgen nur sehr begrenzten Zugang zu Simulatoren; und die, die es gibt, bieten keine ausreichend realistischen Bedingungen. Um das Training von Chirurgen zu optimieren und Ergebnisse quantitativ messbar zu machen, haben Grundlagenforscher des Max-Planck-Instituts für Intelligente Systeme und der Universität Stuttgart das erste Organmodell entwickelt, mit dem Chirurgen eine realistische transurethrale Resektion der Prostata simulieren können. Die Attrappe besteht dabei aus Materialien, die sich wie echtes Gewebe verhalten.

Das realistische Modell wurde im 3D-Druck hergestellt und anschließend modelliert. Die Forscher verwendeten dafür spezielle biomimetische Materialien, um die richtige Festigkeit, ein realitätsgetreues Aussehen und Interaktion mit dem Operationsbesteck zu gewährleisten. Darüber hinaus fügten die Forscher bildgebende Kontrastmittel hinzu, die erst nach der Operation die beiden verschiedenen Zonen sichtbar machten. Dadurch kann der Chirurg erstmals eine Rückmeldung über die Genauigkeit der Resektion erhalten

„Das künstliche Organ fühlt sich sehr realistisch an, die Operation fühlt sich an wie eine an einem echten Patienten,“ sagt Professor Arkadiusz Miernik, Oberarzt für Urologie und Sektionsleiter Urotechnologie am Universitätsklinikum Freiburg. „Ich bin mir sicher, solch ein Modell wird die chirurgische Ausbildung verändern. Im Vergleich zu Kadaver- oder Tiermodellen ist es wesentlich angenehmer in der Handhabung, spart Zeit und Geld und kann für spezielle Verfahren ausgelegt werden. Und es liefert wertvolles Feedback, wie man seine chirurgischen Fähigkeiten verbessern kann.“

Das Forscherteam um Tian Qiu, Leiter der Cyber Valley Forschungsgruppe „Biomedizinische Mikrosysteme“ an der Universität Stuttgart, und Peer Fischer, Professor für Physikalische Chemie an der Universität Stuttgart und Leiter des „Mikro, Nano und Molekulare Systeme“ Labors am Max-Planck-Institut für Intelligente Systeme in Stuttgart, entwickeln noch weitere Organmodelle. Sie wollen damit auch andere chirurgische Verfahren, einschließlich neuer Roboteroperationen, optimieren und systematisch validieren. Ihr oberstes Ziel ist es, einen umfassenden und realistischen chirurgischen Simulator zu entwickeln.

Publikation

Eunjin Choi, Fabian Adams, Stefano Palagi, Anina Gengenbacher, Daniel Schlager, Philippe-Fabian Müller, Christian Gratzke, Arkadiusz Miernik, Peer Fischer, Tian Qiu. A High-Fidelity Phantom for the Simulation and Quantitative Evaluation of Transurethral Resection of the Prostate. Annals Biomedical Engineering (2019). https://doi.org/10.1007/s10439-019-02361-7

Contact
Dr. Tian Qiu
Cyber Valley Group Leader
University of Stuttgart
Pfaffenwaldring 55, 70569 Stuttgart, Germany
Tel: +49 (0) 711 685 64482
Email: tian.qiu@ipc.uni-stuttgart.de

Ein Forscherteam aus Tübingen zeigt, dass auf tiefen neuronalen Netzen basierende optische Flussalgorithmen – eine wahrscheinliche Komponente zukünftiger autonomer Fahrzeuge – anfällig für Hackerangriffe sind. Die Experten für Maschinelles Sehen und Lernen warnen die Automobilindustrie, dass ein einfaches Farbmuster ausreichen könnte, die Autopiloten in selbstfahrenden Fahrzeugen zu verwirren.

Tübingen – Ein Farbmuster auf einem T-Shirt, als Heckscheibenaufkleber oder als Emblem auf einer Einkaufstüte könnte für selbstfahrende Autos ein Problem darstellen – ein kleines Muster, das so viele Störsignale auslöst, dass es zum Sicherheitsrisiko wird. „Wir haben drei, vielleicht vier Stunden gebraucht, um das Muster zu erstellen – das ging ganz schnell,“ sagt Anurag Ranjan, Doktorand in der Abteilung für Perzeptive Systeme am Max-Planck-Institut für Intelligente Systeme (MPI-IS) in Tübingen. Er ist der Erstautor der Publikation „Attacking Optical Flow“, ein gemeinsames Forschungsprojekt der Abteilung für Perzeptive Systeme und der Forschungsgruppe für Autonomes Maschinelles Sehen am MPI-IS und der Universität Tübingen. Die Publikation ist auf arXiv verfügbar und wird bei der führenden internationalen Konferenz im Bereich Maschinelles Sehen präsentiert, der International Conference on Computer Vision ICCV, die am 27. Oktober in Seoul beginnt.

Die Gefahr, dass aktuell auf dem Markt verfügbare Serienfahrzeuge betroffen sind, ist  gering. Dennoch informierten die Forscher vorsichtshalber einige Automobilhersteller, die derzeit selbstfahrende Modelle entwickeln. Sie setzten sie von dem Risiko in Kenntnis, damit sie bei Bedarf zeitnah reagieren können.

In ihrer Forschungsarbeit prüften Anurag Ranjan und seine Kollegen Joel Janai, Andreas Geiger und Michael J. Black die Robustheit einer Reihe verschiedener Algorithmen zur Bestimmung des sogenannten optischen Flusses. Derartige Systeme werden in selbstfahrenden Autos, in der Robotik, Medizin, bei Videospielen und in der Navigation verwendet, um nur einige wenige Einsatzbereiche zu nennen. Der optische Fluss beschreibt die Bewegung in einer Szene, die von den Bordkameras erfasst wird. Jüngste Fortschritte im Bereich des maschinellen Lernens haben zu schnelleren und besseren Verfahren beim Berechnen von Bewegung geführt. Die Forschung der Tübinger Wissenschaftler zeigt jedoch, dass derartige Verfahren anfällig sind, wenn Störsignale im Spiel sind: zum Beispiel ein einfaches, buntes Muster, das in die Szene platziert wird. Selbst wenn sich das Muster nicht bewegt, kann es dazu führen, dass tiefe neuronale Netze, wie sie heute in großem Maße zur Flussberechnung eingesetzt werden, falsch rechnen: das Netzwerk kalkuliert plötzlich, dass sich große Teile der Szene in die falsche Richtung bewegen.

Mehrmals haben Forscher*innen in der Vergangenheit bereits gezeigt, dass selbst winzige Muster neuronale Netze verwirren können. Zum Beispiel wurden dadurch Objekte wie Stoppschilder falsch klassifiziert. Die neue Tübinger Forschungsarbeit zeigt erstmals, dass auch Algorithmen zur Bestimmung der Bewegung von Objekten anfällig für derartige Angriffe sind. Bei der Verwendung in sicherheitskritischen Anwendungen wie in autonomen Fahrzeugen müssen diese Systeme jedoch hinsichtlich derartiger Angriffe „robust“ bzw. zuverlässig und sicher sein.

Selbst ein kleiner Fleck erzeugt große Wirkung

Ranjan und seine Kollegen arbeiten seit März vergangenen Jahres an dem Projekt „attacking optical flow“. Im Zuge ihrer Forschungsarbeit waren sie überrascht, dass selbst ein kleiner Fleck großes Chaos auslösen kann. Es reicht eine Größe von weniger als 1 % des Gesamtbilds aus, um das System anzugreifen. Die kleinste Störung verursachte, dass das System schwere Fehler bei seinen Berechnungen machte, die die Hälfte des Bildbereichs betrafen (siehe Abbildung). Je größer der Fleck, desto verheerender die Auswirkungen. „Dies ist bedenkliche, da das Flow-System in vielen Fällen die Bewegung der Objekten in der gesamten Szene gelöscht hat,“ erklärt Ranjan und weist auf ein Video hin, in dem das angegriffene System zu sehen ist. Man kann sich leicht vorstellen, welchen Schaden ein lahmgelegter Autopilot eines selbstfahrenden Autos bei hoher Geschwindigkeit verursachen kann.

Wie einzelne selbstfahrende Autos funktionieren ist ein wohl-gehütetes Geheimnis der jeweiligen Hersteller. Daher können Computer Vision Grundlagenforscher nur mutmaßen. „Unsere Arbeit soll die Hersteller von selbstfahrender Technologie wachrütteln, sie vor der potenziellen Bedrohung warnen. Wenn sie davon wissen, können sie ihre Systeme so trainieren, dass sie gegenüber derartigen Angriffen robust sind,“ sagt Michael J. Black, Direktor der Abteilung für Perzeptive Systeme am Max-Planck-Institut für Intelligente Systeme.

Möglicherweise ebenso wichtig wie der Hackerangriff selbst ist, dass es den Entwicklerteams der Automobilindustrie zeigt, wie man unter Verwendung einer sogenannten „zero flow“-Prüfung bessere optische Flussalgorithmen entwickeln kann. „Wenn wir dem System zwei identische Bilder zeigen und es keinerlei Bewegung zwischen den beiden gibt, sollte sich der optische Flussalgorithmus farblich überhaupt nicht verändern. Dies ist jedoch oft nicht der Fall, selbst ohne einen Angriff. Schon da fangen also die Probleme an. Hier müssen wir ansetzen, um zu beheben, was das Netz falsch macht“, erläutert Ranjan. Er und sein Team hoffen, dass ihre Forschungsarbeit dazu beiträgt, das Bewusstsein für die Problematik zu stärken, und dass Automobilhersteller derartige Angriffe ernst nehmen und ihre Systeme entsprechend anpassen, um sie weniger störanfällig zu machen.

• Project website: https://flowattack.is.tue.mpg.de
• Publication on ArXiv: https://arxiv.org/abs/1910.10053
• Youtube video: https://www.youtube.com/watch?v=FV-oH1aIdAI&feature=youtu.be

---

Press Contact:
Linda Behringer
Max Planck Institut for Intelligent Systems, Stuttgart, Germany
T: +49 711 689 3552
M: +49 151 2300 1111
linda.behringer@is.mpg.de

---

About us

At the Max Planck Institute for Intelligent Systems we aim to understand the principles of Perception, Action and Learning in Intelligent Systems.

The Max Planck Institute for Intelligent Systems is located in two cities: Stuttgart and Tübingen. Research at the Stuttgart site covers small-scale robotics, self-organization, haptic perception, bio-inspired systems, medical robotics, and physical intelligence. The Tübingen site focuses on machine learning, computer vision, robotics, control, and the theory of intelligence.

www.is.mpg.de

The Perceiving Systems department combines computer vision, machine learning, and computer graphics to train computers to understand humans and their behavior in images and video. The team’s unique approach begins with learning compact parametric models of 3D human shape and motion. We use these to extract and analyze human behavior in the context of 3D scenes. The department has approximately 45 staff and students and additional affiliated researchers. It operates unique 4D scanning facilities that produce highly accurate and detailed 3D meshes of the body, face, hands, and feet at 60 frames per second. The department also employs wearable motion capture suits, flying robots, and camera-based systems to record human movement.

https://ps.is.mpg.de/

The Autonomous Vision research group, which is based at the Max Planck Institute for Intelligent Systems in Tübingen and the University of Tübingen, addresses questions related to robustness as well as methods that enable high-capacity models (such as deep neuronal networks) to learn with a small amount of data. More specifically, the group’s research focuses on robust perception for autonomous agents, especially autonomous vehicles. Research activities range from sensor-based perception (3D reconstruction, motion estimation, object recognition) and holistic scene interpretation (3D lane and intersection estimation), to sensor engine control approaches.

https://avg.is.tuebingen.mpg.de/

Die vielfach ausgezeichnete Wissenschaftlerin spezialisiert sich in ihrer Forschungsarbeit darauf, maschinelle Lernmethoden flexibler, robuster und fairer zu gestalten.

Tübingen – Isabel Valera übernahm am 1. Juli 2019 die neu gegründete unabhängige Forschungsgruppe „Probabilistic Learning“ am Max-Planck-Institut für Intelligente Systeme (MPI-IS). Zuvor war sie Forschungsgruppenleiterin in der Abteilung für Empirische Inferenz von Professor Bernhard Schölkopf.

„Ich freue mich sehr über diese Möglichkeit, meine Karriere beim MPI-IS fortzusetzen“, sagt Valera. „Seit ich vor fast zwei Jahren an das Institut kam, habe ich mit einigen der weltbesten Köpfe im Bereich Machine Learning zusammengearbeitet. Ich freue mich sehr, meine neue Gruppe aufzubauen und die Forschung auf diesem Gebiet voranzutreiben.“

Die Forschung der Probabilistic Learning Group konzentriert sich auf die Entwicklung maschineller Lernmethoden, die flexibel, robust und fair sind. Flexibel bedeutet, dass Algorithmen in der Lage sind, komplexe reale Daten zu modellieren: Daten, die oft heterogen sind und im Laufe eines bestimmten Zeitabschnitts erhoben wurden. Zweitens zielt Valeras Forschung darauf ab, die Robustheit von Algorithmen zu verbessern. Ein Algorithmus gilt als robust, wenn er in der Lage ist, darauf hinzuweisen, „was er nicht weiß“. Das bedeutet, dass er nicht nur Vorhersagen macht, sondern auch angibt, inwieweit er Vertrauen in eine Entscheidung hat. Zudem erforscht die Gruppe Möglichkeiten, Algorithmen fairer zu gestalten – eine wichtige Voraussetzung, wenn in unserem Alltag immer mehr Entscheidungsprozesse auf mathematischen Berechnungen basieren. Valeras Ziel ist es, Dinge und Zusammenhänge, die aus juristischer Sicht als fair angesehen werden, in eine mathematische Formel zu übersetzen.

„In meiner Forschung arbeite ich an einem breiten Anwendungsspektrum, von der Medizin und Psychiatrie bis hin zu Sozial- und Kommunikationssystemen. Seit kurzem konzentrieren wir uns besonders auf die konsequente Entscheidungsfindung z.B. bei Bewerbungsverfahren, der Ferstlegung, wie hoch eine Kaution im Vorfeld eines Gerichtsverfahren anzusetzen ist oder bei Kreditgenehmigung“, erklärt Valera.

Valera ist eine vielfach ausgezeichnete Wissenschaftlerin. Sie erhielt kürzlich ein Stipendium der Deutschen Forschungsgemeinschaft DFG aus Mitteln für das Exzellenzcluster „Machine Learning: Neue Perspektiven für die Wissenschaft“ der Universität Tübingen. Sie bekam außerdem ein Minerva Fast-Track-Stipendium der Max-Planck-Gesellschaft, das Frauen in der Wissenschaft fördert. Davor hatte Valera ein Humboldt-Postdoc-Stipendium inne. Zudem erhielt sie 2017 für ihre Publikation „Fairness Beyond Disparate Treatment & Disparate Impact: Learning Classification without Disparate Mistreatment“ den Best Paper Award Honorable Mention auf der International World Wide Web Conference (WWW), einer der weltweit führenden Data Science Konferenzen.

Nächstes Jahr wird Valera das Programmkommitee leiten der Konferenz “European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases“ (ECML-PKDD 2020) in Gent in Belgien.

Promoviert wurde Valera an der Universidad Carlos III de Madrid (Spanien) im Bereich Multimedia und Kommunikation.