1LIVE Informant

Forschertreffen zu künstlicher Intelligenz in Shanghai

16.09.2018

Ab heute treffen sich Forscher aus der ganzen Welt in Shanghai. Thema: künstliche Intelligenz. 🤖 In Zukunft soll die nämlich vollkommen selbstständig Entscheidungen treffen, die bisher ein Mensch getroffen hat. 😮 In manchen Bereichen macht sie das heute schon!

Wo denn?

Intelligente Software entscheidet z.B. mit darüber, ob jemand einen Kredit bekommt. 💰 Die Software analysiert wo jemand wohnt, arbeitet, Geld ausgibt und so weiter. Daraus berechnet sie dann, wie wahrscheinlich es ist, dass der Kredit zurückgezahlt werden kann. 🤔 In Zukunft soll Software zum Beispiel auch entscheiden, welche medizinische Therapie bei einem Patienten angewandt wird.

Gefahren?

Und ob! Das große Problem ist, dass Forscher noch nicht gut kontrollieren können, wie sich die selbstlernende Software entwickelt, also warum sie Entscheidungen trifft. Forscher haben gesagt, dass man vielleicht sogar eine Art "Not-Ausschalter" für Künstliche Intelligenz braucht. ⛔

Warum?

Weil künstliche Intelligenz darauf getrimmt ist, sich immer weiter zu verbessern. Beispiel: Krebstherapie. Eine Software wird darauf trainiert, Tumorgewebe zu erkennen. Dann will sie darin immer besser werden. Und dann könnte es passieren, dass sie "überlernt" und am Ende überall Tumore sieht.

Ideen dagegen?

Es gibt schon Pilotprojekte für Kontrollsoftware aber noch keine Standards. Wichtig ist, dass man nachvollziehen kann, aus welchen Gründen die Software eine Entscheidung trifft. Auf der KI-Konferenz in China wollen die Experten jetzt auch drüber reden, ob es für die Kontrolle gesetzliche Regeln geben soll.