https://rotary.de/gesellschaft/der-fluch-der-schlauen-maschine-a-8267.html
Tichys Denkanstoß

Der Fluch der schlauen Maschine

Tichys Denkanstoß - Der Fluch der schlauen Maschine

Roland Tichy über die schleichende Ent­mündigung der Nutzer

31.10.2015

Was passiert, wenn Maschinen denken? Zunächst haben ja die Ingenieure angefangen, für Sie und für mich vorauszudenken. Doch sie konstruieren Maschinen oder Dienstleistungen nicht so, dass sie dem Kunden bestmöglichst dienen – sondern den Testern. Denn wir kaufen nach Testsiegel, nicht nach Alltagsqualität. Da man weiß, wer, wo, was und wie testet, entstehen häufig Produkte, die etwa von der Stiftung Warentest ausgezeichnet werden – und im Alltag kläglich versagen. Deshalb sind Autos auf den Prüfständen sparsam – und im Alltag mitunter Spritsäufer.


Die Autos werden immer komplizierter; sie fangen an, auf primitive Weise zu denken. Noch sind sie nicht kreativ und halten sich brav an die Programme, die ihnen eingebläut wurden. Aber sie sind mit sehr vielen Sensoren ausgestattet, die die Umwelt wahrnehmen und das Verhalten des Autos daraufhin ändern. Regen? Prompt beginnt der Wischer, sich zu bewegen. Mein Spurassistent, meine Einparkhilfe und meine Umkippsperre handeln für mich; verbessern meinen Fahrstil oder gleichen Fahrfehler aus.


Ein jähes Ende
Hier wird es kompliziert. Was heißt hier „mein“? Ich weiß ja längst nicht mehr, was „mein“ Auto mit mir macht. Kürzlich wäre ich bei einem Überholmanöver fast gescheitert; die Karre war zu lahm. Irgend­jemand hat den Fahrstil von „sportlich“ auf „sparsam“ geändert. So war es dann – sparsam, nicht spurtstark wie gewohnt und erwartet. In der nächsten Generation wird es von sich aus die Sparsamkeit aufgeben und rasant spurten; hoffentlich, denn sonst findet diese Kolumnenserie möglicherweise ein jähes sowie ungeplantes und schmerzhaftes Ende.


Wenn das Auto schon erkennt, was es in bestimmten Situationen tun soll, und
es immer mehr Eigenmächtigkeit übertragen bekommt, dann ist der nächste Schritt nicht weit: Es wird clever. Und hier sind wir beim Diesel-Desaster von VW angelangt: Das elektronische Spursystem erkennt längst, dass sich die Räder drehen, aber der Standort nicht ändert. Dafür ist es konstruiert, um solche Absonderlichkeiten wahrzunehmen und darauf angemessen zu reagieren. Nur ein klitzekleiner Schritt, und es reagiert besonders abgassparend. Nun, nicht ganz freiwillig. Dieser Trick wurde programmiert, also vorausgedacht. Er steht wie so viele andere Tricks der Elektronik nicht im Handbuch; und wenn, hätte ich ihn vermutlich überlesen.


Das Auto kommt in seinem Verhalten dem eigenmächtigen Denken und Handeln schon ziemlich nahe. Es lernt und adaptiert sein Verhalten; so wie mein Rechtschreibsystem meine kleinen Marotten beim Schreiben in seinen erlaubten Wortschatz aufnimmt: Zunächst hat es meinen Namen zu „Vichy“ verhunzt; sehr schnell hat es gelernt, das T zu lieben.Auch das Auto wird zum gelehrigen Schüler: Der ahnt voraus, wann der Vokabel­test kommt, und strapaziert einmaligsein Kurzzeitgedächtnis mit den unregel­mäßigen Verben. Die gute Note sagt wenig aus über die tatsächliche Sprachkompetenz. Der nächsten Diesel-Generation wird man nicht so schnell auf die Schliche kommen. Sie wird keine Moral, aber niedrigste jemals gemessene Abgaswerte erzielen und beste Noten in der Umweltverträglichkeit. Sie wird schlau – und wir sind die Dummen. Oder wollen wir nicht gelegentlich die Kontrolleure austricksen?