00:00:04: Herzlich Willkommen zum Ancient Technik Podcast.

00:00:06: Dieser Podcast ist für alle, die Technologie entwickeln, vertreiben oder nutzen.

00:00:12: Für Alle, die immer mal wieder das Gefühl haben, dass Technologie sie überrumpelt oder beherrscht.

00:00:17: Für alle, Die verstehen wollen was Technologie mit uns macht und wie wir unser Leben zurückbekommen.

00:00:23: Dieser podcast ist für die, die technologie sexy machen wollen.

00:00:27: Alli Produkteentwickler Designer UXUI Profis Produktmanager CTOs CEOs Und Ich halte diese Woche noch eine Keynote auf dem World Usability Day.

00:01:07: Episode erscheint, bin ich schon auf dem Event und stehe kurz davor.

00:01:13: Auf die Bühne zu gehen.

00:01:16: Thema ist Ethical AI also ethische künstliche Intelligenz.

00:01:25: Und Content sauger, Content erzeuger, Content ausspukker.

00:01:30: wie ich noch mal eben bin Habe ich die Idee zum Anlass genommen, habe ich diesen Kino zur Anlassgenommen und auf Teile meiner Kino zum Anlas genommen.

00:01:41: Eine Episode zum Thema ethische künstliche Intelligenz oder zum Thema ein System mit perfekter Usability kann zutiefst unethisch sein Aufzunehmen.

00:01:59: Wir leben in einer faszinierenden Zeit.

00:02:02: Künstliche Intelligenz Schreibt-Texte, entwickelt Software, analysiert medizinische Bilder.

00:02:07: MRT ist Röntgenbilder und der können mit ihr Gespräche führen.

00:02:12: Dann kommt das Thema Physical AI also physische künstliche Intiligenz.

00:02:17: die Roboter verlassen Forschungslabore Autos fahren zunehmend selbstständig Maschinen übernehmen Aufgaben für die wir vor wenigen Jahren menschliche Intelligence als absolut unverzichtbar angesehen haben.

00:02:35: Also technologisch ist heute vieles möglich, was gestern noch Science Fiction war.

00:02:44: Macht uns das zu besseren Menschen?

00:02:46: Macht das unser Leben besser?

00:02:49: Macht es unsere Gesellschaften gerechter oder entwickeln wir eher Technologien die uns zunehmend beherrschen statt uns zu dienen.

00:03:03: Und das Thema Ethical AI, ethische künstliche Intelligenz ist nicht umsonst im Fokus des World Usability Day diesen Jahres.

00:03:13: Es geht auch um Themen wie Regulierung, um Transparenz, Fairness und Datenschutz.

00:03:19: Ja es ist alles wichtig, alles richtig!

00:03:22: Aus meiner Sicht kommt eine Frage dabei zu kurz.

00:03:27: Es gibt mir Verantwortung.

00:03:29: Künstliche Intelligence kann keine Verantwortung übernehmen.

00:03:32: Das müssen wir als Menschen machen und damit wird es an vielen Punkten sehr unbequem.

00:03:42: Besonders für diejenigen, die Technologie entwickeln, die technologie gestalten, die sie vermarkten, verkaufen verfügbar machen.

00:03:54: Und ich werde mich mal so an einigen Punkten... Es wird so auf sechs bis sieben schätze ich mal rauslaufen am Ende entlang hangeln um die Thematik mal genauer zu analysieren.

00:04:10: Beginnen wir mit der großen Lüge der Begrifflichkeiten, die große LüGE der Begriffe.

00:04:18: Smartphones sind nicht smart.

00:04:21: Soziale Medien sind nicht sozial Content Creator erschaffen keine wertvollen Inhalte und künstliche Intelligenz ist nicht intelligent nicht im menschlichen Sinne.

00:04:35: Für mich ist der Begriff künstliche Intelligenz ein Oxymoron.

00:04:41: Intelligenz ist für mich immer an Natürliches gebunden.

00:04:47: Künstlich kann das nicht sein, also Intelligenzen kann ich künstlich sein.

00:04:50: auf der anderen Seite... Also ich rede da seit Jahren gegen einen, gegen den Begriff Künstlicher Intelligenze.

00:04:56: Ich kann mich dagegen nicht mehr wehren und nutze ihnen zu wischen.

00:05:00: Es ist aber völlig klar Intelligenz kann nicht künstlich sein, Intelligenzen muss natürlich sein.

00:05:06: Kommen wir zum Punkt zurück.

00:05:09: Wir beschreiben Technologien mit Begriffen die menschlichen Fähigkeiten Die menschliche Fähigkeit und Eigenschaften versprechen.

00:05:15: ja Intelligenze, Kreativität Empathie Verständnis.

00:05:19: Viele Leute empfinden sogar zu ihrem KI-Bord sowas wie Freundschaft Vertrauen.

00:05:26: Problem ist.

00:05:26: ein Smartphone macht uns nicht klüger.

00:05:29: Ja es macht uns denkvolle.

00:05:30: Sozialer Medien machen uns einsamer Und künstliche Intelligenz kann dazu führen, dass wir aufhören selber nachzudenken.

00:05:41: Versteht mich an der Stelle nicht falsch?

00:05:44: Ich bin Ingenieur und liebe Technologie.

00:05:47: Ich verdiene seit mehr als dreißig Jahren mein Geld damit.

00:05:49: Ich beschäftige mich damit in erster Linie wie Menschen und Maschinen miteinander interagieren.

00:05:54: Ich habe viele tolle Innovationen gesehen die Leben retten, die Arbeit erleichtern, die Sicherheit erschaffen und jede Menge neue Möglichkeiten öffnen aber auch viele Lösungen, die verzweifelt nach einem Problem suchen.

00:06:13: Ein Sprachmodell kann einen Überzeugenden Text schreiben.

00:06:19: Aber ist dieser Text deshalb richtig?

00:06:23: Relevant?

00:06:25: Wertvoll?

00:06:26: Ja ein Bildgenerator kann beeindruckende Bilder erschaffen.

00:06:30: Aber welche in Anführungszeichen?

00:06:33: Absicht steckt dahinter?

00:06:35: Ja, ein digitaler Assistent kann mir Entscheidungen abnehmen.

00:06:37: Aber machten mich das zu einem besseren Entscheider?

00:06:43: Wir verwechseln ist der Kernsatz.

00:06:45: wir verwächeln technologische Fähigkeiten mit menschlichem Wert.

00:06:51: Wir sagen eine KI versteht uns.

00:06:52: sie denkt nach und entscheidet.

00:06:55: Das sind praktische Beschreibung die funktionieren.

00:06:58: Sie verführen uns aber dazu Systeme Eigenschaften zuzuschreiben die sie nicht besitzen.

00:07:06: Eine KI kann empathisch formulieren, aber sie empfindet dabei keine Empathie.

00:07:11: Sie können Empfehlungen aussprechen ohne dass die Verantwortung für die Folgen übernehmen muss.

00:07:17: Wenn wir also Maschinen als intelligente verständnisvolle und verantwortungsbewusste gegenüber betrachten geben wir ihnen möglicherweise mehr Autorität als ihnen zusteht.

00:07:29: Wir geben Aufgaben ab, das ist häufig sinnvoll machen viele gute Sachen, wir geben Entscheidungen ab was schon problematisch sein kann.

00:07:39: Und am Ende geben wir unser Autoheitsvermögen ab.

00:07:45: Dann stellt sich die Frage, wer kontrolliert hier wen?

00:07:54: Technologie hat keinen moralischen Kompass.

00:08:00: Ein Auto, ein Fahrzeug, ein Notarztwagen kann einen Arzt zum Patienten bringen oder genauso gut auch Menschen umbringen gefährden.

00:08:09: Wir haben immer noch Um die um die eins Komma zwei Millionen Tote im Straßenverkehr jedes Jahr weltweit.

00:08:18: Ja, soziale Medien können Familien verbinden und Gesellschaften spalten.

00:08:21: KI künstliche Intelligenz kann Krankheiten früher erkennen Menschen mit diversen Behinderungen unterstützen.

00:08:30: Sie kann aber genauso gut zur Massenbewaltung und zur Manipulation für Fake News Für falsche Bilder eingesetzt werden.

00:08:38: Die technische Grundlage ist die gleiche.

00:08:40: Das Ergebnis könnte kaum unterschiedlicher sein.

00:08:46: Ist Technologie neutral?

00:08:49: Prinzipial, aber ganz so einfach ist es am Ende doch nicht!

00:08:54: Die Entwicklung von Technologie steckt vor der Entscheidung.

00:08:59: Welche Probleme wollen wir lösen, welche Daten verwenden wir, auch auf welche Ziele wollen wir optimieren, welche Geschäftsmodelle verfolgen wir, welche Risiken akzeptieren?

00:09:10: Es sind alles Fragen, die immer wieder während einer Entwicklung auftreten und... ...die wir immer wieder als Menschen während der Entwicklung beantworten.

00:09:24: Ein Empfehlungsalgorithmus, der auf maximale Verweildauer optimiert wird ist nicht neutral.

00:09:30: Ja ein Interface das Menschen mit psychologischen Tricks zu Entscheidungen drängt ist nicht Neutral heißt Nudging an der Usability-Forschung so schubsen Ich mach mal halt einen Button ein bisschen größer oder ein bisschen farbier, ein bisschen besser sichtbar und schon tendieren Menschen dazu denen dann auch zu drücken obwohl sie es vielleicht gar nicht wollen.

00:09:52: Technologie trägt die Werte, die Interessen und Prioritäten ihrer Entwickler, ihrer Betreiber, ihrer Besitzer in sich aber und ist der entscheidende Punkt.

00:10:04: Technologie besitzt keinen eigenen moralischen Konvers.

00:10:09: Technologie entscheidet nicht selbst, was richtig ist.

00:10:12: Wir Menschen legen die Maßstäbe fest und deshalb brauchen wir Prinzipien, Richtlinien, Kontrollmechanismen Gesetze für künstliche Intelligenz.

00:10:24: Wenn wir sie haben, wenn wir feststellen das reicht so nicht aus.

00:10:29: Ethik ist keine Softwarefunktion, die wir einfach aktivieren können.

00:10:34: kein Algorithmus wird durch einen zusätzlichen Menüpunkt moralisch Und kein Unternehmen wird verantwortungsvoll nur weil es seine Prinzipien im Umgang mit künstlicher Intelligenz veröffentlicht.

00:10:52: Ethische Technologie entsteht durch menschliche Entscheidungen, durch gesetzene richtigen Prioritäten und durch den Mut bestimmte Dinge nicht zu tun.

00:11:03: Durch die Bereitschaft auf Umsatz zu verzichten wenn dieser Umsatz auf Manipulation, Abhängigkeit oder Ausbeutung passiert.

00:11:15: Wir brauchen also nicht nur eine ethische KI, wir brauchen Menschen und Organisationen die Technologie nach ethischen Maßstäben entwickeln und einsetzen Und das ist schwer als einfach nur mal seine Unternehmensrichtlinien zu überarbeiten.

00:11:35: Der Krieg um unser Gehirn Es herrscht Krieg In der Schlachtfeld ist unser Gehörn, in der Preis ist.

00:11:43: unsere Seele Klingt dramatisch?

00:11:46: Ja tut es.

00:11:48: Aber schauen wir uns mal an, was in der digitalen Welt passiert.

00:11:52: Die vielleicht wertvollste Ressource der digitaler Wirtschaft ist nicht Öl oder Gold oder Energie sind noch nicht mehr Daten.

00:12:02: Die wertvollsten Ressourcen in der Digitalen Welt ist unsere Aufmerksamkeit!

00:12:09: Und Aufmerksamkeit lässt sich am Ende in Geld verwandeln.

00:12:12: Je länger wir auf einer Plattform bleiben, desto mehr Werbung kann sie uns zeigen.

00:12:15: Je besser ein Unternehmen unser Verhalten versteht, destu gezielt er kann es uns ansprechen.

00:12:20: Endloses Skrollen Automatisch startende Videos Personalisierte Empfehlungen Benachrichtung Likes Belohnungsmechanismen Künstliche Verknappungen Einzel betrachtet Kann man sagen ja, wie schlimm ist das hier alles nicht?

00:12:33: Ist ja weitgehend harmlos.

00:12:36: In der Summe steht ein System dass um unsere Aufmerksamkeit kämpft.

00:12:42: Und künstliche Intelligenz macht dieses System leistungsfähiger, effizienter und vor allem effektiver.

00:12:54: Algorithmen erkennen welche Inhalte uns interessieren, welche uns aufregen, welcher uns ängstigen, welches uns wüten machen.

00:13:03: Sie werden unsere Reaktionen aus und wählen dann den nächsten Inhalt entsprechend aus Nicht weil diese gut für uns sind sondern weil sie uns länger auf der Plattform halten, weil Sie uns länger beschäftigen.

00:13:18: Und ich möchte jetzt nicht allzu pauschal klingen.

00:13:20: natürlich versucht das nicht.

00:13:21: jede digitale Anwendung ja nicht jede digitaler Anwendungen versucht Menschen abhängig zu machen aber überall dort wo Aufmerksamkeit das Geschäftsmodell ist entsteht ein Interessenkonflikt.

00:13:36: was für die Plattform wirtschaftlich wertvolles muss für den menschen noch lange nicht gut richtig und wertvoll sein.

00:13:45: Eine zusätzliche Stunde Bildschirmzeit kann wirtschaftlicher Erfolg sein oder eine verlorne Stunde Lebenszeit.

00:13:53: Ein emotional aufwühlener Beitrag kann enormere Reichweite erzielen und gleichzeitig Hass verstärken.

00:14:00: Eine perfekt personalisierte Informationswelt kann unseren Blick auf die Wirklichkeit verengen, wir haben Maschinen gebaut um uns Arbeit abzunehmen.

00:14:09: Jetzt müssen wir aufpassen dass sie uns nicht das Denken abnehmen.

00:14:14: Besonders bedenklich finde ich wie selbstverständlich Technologie inzwischen jede Lehrstelle unseres Lebens ausfüllt.

00:14:20: Fünf Minuten Wartezeit, Smartphone raus!

00:14:24: Ein schwieriger Gedanke.

00:14:25: schnell die KI fragen.

00:14:27: Im Moment der Langeweile, irgendein Video findet sich immer.

00:14:32: Wann haben wir zuletzt einfach nur da gesessen und nachgedacht?

00:14:38: Unser Gehirn braucht nicht permanentem Input.

00:14:43: Es braucht genauso auch Ruhe Langeweile, Widerspruch und Zeit um Gedanken zu entwickeln.

00:14:50: Und genau diese Räume füllen wir zunehmend mit Technologie.

00:14:57: Die Kernfrage an dieser Stelle Nutzen wir die Technologie?

00:15:02: Oder benutzt die Technologie uns?

00:15:12: Jetzt wird es persönlich!

00:15:13: Die unbequeme Wahrheit für die UX UI Usability Mensch-Maschinischen Stellen Community.

00:15:22: Seit Jahrzehnten beschäftigen wir uns mit Usability.

00:15:27: Mit Nutzerfreundlichkeit, mit Menschmaschine Schnittstellen.

00:15:31: Die ersten Ursprünge waren Mitte des neunzehnten Jahrhunderts.

00:15:35: nach dem Zweiten Weltkrieg oder im zweiten Weltkrig ist es dann intensiver geworden.

00:15:40: und so den klassischen oder die heute bekannten Usability-Themen... Ich würde mal sagen, seit Mitte der Sechzehr Anfang der siebzehr Jahre gab's die Ersten Ansätze.

00:15:53: Ich selbst habe einen großen Teil, den allergrößten Teil fast mein komplettes Berufsleben damit verbracht die Interaktion zwischen Menschen und Technik zu verbessern.

00:16:03: Wir analysieren Mützerbedürfnisse wir entwickeln Personas wie untersuchen Newscases wir testen Interfaces.

00:16:10: wir wollen technologie einfacher intuitiver verständlicher angenehmer machen.

00:16:20: grundsätzlich eine gute sache richtig wichtig.

00:16:25: wir müssen uns aber zunehmend gerade heute eine unbequeme Frage stellen.

00:16:34: Machen wir Technologien besser für Menschen oder machen wir Menschen besser nutzbar für Technologieunternehmen?

00:16:42: Wir optimieren Conversion Rates, also Kauf an erfolgreiche Käufe.

00:16:48: Wenn ich also von der Kaufwerksseite gehe und ich kaufe da irgendwas ein dann habe Und wenn ich das nicht tue, dann habe ich es ja niedrig.

00:17:01: Nutzerbindung, Engagement und Verweildauer sind alles Parameter die in der Usability Forschung entscheidend sind um Erfolg zu messen.

00:17:12: Wir reduzieren Klicks wir beseitigen Hindernisse aber am Ende was genau optimieren werden?

00:17:19: Eine App kann eine fantastische User Experience haben.

00:17:23: Die kann intuitiv sein schnell attraktiv perfekt personalisiert Trotzdem oder genau deswegen.

00:17:32: Dafür sorgen, dass ich täglich drei Stunden Lebenszeit verschwende.

00:17:38: Ein KI System kann jede Frage in Sekunden beantworten freundlich verständlich jederzeit verfügbar und trotzdem oder gerade durch gerade dadurch dazu beitragen Dass sich immer selber immer seltener selbst nachdenken.

00:17:58: ein Empfehlungsalgorithmus kann technisch perfekt funktionieren und gleichzeitig Mein Weltbild verzerren.

00:18:06: Das bilden der Internetblasen, in denen sich viele von uns aufhalten.

00:18:12: Also, Kernsatz der heutigen Folge ein System mit perfekter Usability kann zutiefst unethisch sein.

00:18:21: Gute Usability alleine macht noch keine gute Technologie.

00:18:26: Ein fragwürdiges Geschäftsmodell wird nicht dadurch ethisch dass seine Benutzeroberfläche hervorragend gestaltet ist Und eine schädliche Anwendung wird nicht dadurch wertvoll, dass Menschen sie gerne benutzen.

00:18:39: Wir müssen über unser bisheriges Verständnis von User-Experienz hinaus denken.

00:18:43: Die klassische Frage lautet Wie kann der Mensch das System problemlos nutzen?

00:18:49: Die wichtigere Frage könnte in Zukunft lauten Sollte er dieses System überhaupt nutzen?

00:18:56: Macht es sein Leben besser Stärkt?

00:18:58: ist seine Selbstbestimmung Respektiert?

00:19:00: ist seine Würde?

00:19:03: Fördert es seine Fähigkeiten?

00:19:04: und Wer profitiert am Ende eigentlich von einem System, einer App, einer Software, einem Gerät oder einer Funktion?

00:19:17: Und da dürfen wir nicht bei einzelnen Menschen, bei einzelne Nutzern und Nutzerinnen stehen bleiben.

00:19:23: Eine Technologie kann für ihn oder sie großartig sein und für andere Menschen erhebliche Nachteile haben.

00:19:32: Ja eine Navigationseinwendung findet die schnellste Route und belastet gleichzeitig Daum standen Wohngebiete mit zusätzlichem Verkehr, weil die kürzeste, schnellste Route halt durch eine reine Haussiegelung führt.

00:19:44: Eine KI steigert die Produktivität aber setzt auch Beschäftigte unter Druck.

00:19:52: Eine Plattform bietet eine kostenlose Dienstleistung an und wählt es die gesellschaftlichen Kosten bis hin zu Depressionen und Suizid auf andere ab.

00:20:06: Das Heihe ist am Ende.

00:20:07: müssen wir nicht nur Mensch zentriert sondern auch gesellschaftszentriert denken.

00:20:15: Gute Usability macht Technologie nutzbar, gute Ethik macht sie verantwortbar.

00:20:26: Es gibt einen Begriff den wir in der User Experience Usability Mensch-Maschine Schnittstellenwelt fast reflexartig negativ bewerten.

00:20:39: Der Begriff ist die Reibung.

00:20:42: Reibungen bedeutet Aufwand Verzögerung Frustration.

00:20:45: also beseitigen wir Sie weniger Klicks, weniger Eingaben, weniger Nachdenken.

00:20:51: Alles soll möglichst einfach sein.

00:20:54: Ist einfach immer gut.

00:20:58: kleine Fußnote hier?

00:21:01: Ich komme aus der Automobilwelt und da ist einfach fast immer die beste Option.

00:21:09: Wenn ich breiter denke an Apps, an Softwareapplikationen, an KI-Applikation Es ist die Sache nicht so eindeutig.

00:21:18: Ende Fußnote Wenn ich einen wütenden Beitrag an einem sozialen Netzwerk teilen möchte, reicht ein einzelner Klick.

00:21:26: Wäre es besser wenn mich das System vorher fragen würde ob der Inhalt überhaupt für mich passt, aber je nur ob gelesen habe, ob ich ihn verstanden habe?

00:21:35: Ja, wenn einer KI eine wichtige Entscheidung vorbereitet sollte Ich vielleicht ihre Grundannahmen überprüfen.

00:21:42: Bei medizinischen Empfehlungen sollten unsicherheitsensichtbar werden anstatt Eine scheinbar perfekte Antwort zu präsentieren und vor einer Weitreichenden finanziellen Entscheidungen sollte ein Moment des Nachdenkens wertvoller sein als einen schneller Abschluss.

00:22:04: Nicht jede Reibung ist schlechte Usability.

00:22:08: Manchmal schützt sie vor Fehler, macht Risik in Sichtbar verhindert Manipulation oder sie zwingt uns schlicht dazu unser Gehirn einzuschalten.

00:22:17: und nachdenken ist kein Fehler bei der Nutzung eines Systems.

00:22:25: Natürlich sollte niemand darüber nachdenken, wie ein Lichtschalter funktioniert.

00:22:29: Ja aber einfach an Aufgaben.

00:22:30: ist eine möglichst reibungslose Interaktion richtig.

00:22:33: Ich habe das Autofahren auch schon erwähnt.

00:22:36: Auch hier ist eine möglichst reibungslose Interakktion richtig.

00:22:40: Es gibt aber Situationen in denen Nachdenken kein Hindernis ist sondern der eigentliche Wert.

00:22:48: es geht nicht darum absichtlich schlechte Interfaces zu entwickeln sondern darum Reibung dort einzubauen, wo sie einen sinnvollen Zwecker füllt.

00:22:57: Eine gute Bremse ist kein Konstruktionsfehler und vielleicht ist das ethischste Interface dasjenige dass uns immer wieder gezielt in einem richtigen Stellen zum Nachdenken bringt?

00:23:12: Vielleicht müssen wir unsere Erfolgs-Kennzahlen verändern.

00:23:16: nicht jede zusätzliche Minute Bildschirmzeit isst ein Erfolg.

00:23:19: Nicht jeder Interaktion schafft Wert.

00:23:21: nicht jeder automatisierte Entscheidung ist Fortschritt.

00:23:25: Nicht jeder eingesparte Sekunde macht unser Leben besser.

00:23:34: Es gibt den schönen Satz nutze den Computer, lass dich nicht von ihm benutzen.

00:23:40: Er wird manchmal dem Musiker Prince zugeschrieben Keine Ahnung er ist auf jeden Fall richtig.

00:23:48: Ja holt euch eure Kontrolle zurück und uns.

00:23:51: klingt so einfach und vielleicht klingt sogar banal.

00:23:56: ich halte diesen Satz für eine der wichtigsten Regeln im Umgang mit moderner Technologie.

00:24:02: Wir sollten selbst entscheiden, wann und wofür wir Technologien nutzen – und wann bewusst nicht!

00:24:08: Nicht jede Benachrichtung verdient unsere Aufmerksamkeit, nicht jeder Gedanke muss sofort an einer KI delegiert werden, nicht jede Anwendung die uns beschäftigt bereichert unser Leben.

00:24:17: Die Verantwortung liegt beim Nutzer aber sie liegt nicht allein bei Nutzer oder Nutzerin.

00:24:25: Es wäre zu einfach Menschen aufzufordern, ihre Smartphones weniger zu nutzen während wir gleichzeitig Systeme entwickeln, deren Geschäftsmodell auf möglichst intensiver Nutzung beruht.

00:24:37: Entwickler-, Designer-, Ingenieure-, Wissenschaftler-, Führungskräfte – Wir tragen eine besondere Verantwortung!

00:24:45: Wir entscheiden welche Technologien entstehen, welche Ziele sie verfolgen, welche Daten sie sammeln, welche Entscheidungen sie automatisieren und welche Freiheiten Sie menschen lassen.

00:24:57: Das sollte mir bei jedem neuen Produkt, jeder Funktion und jedem KI-Projekt drei grundlegende Fragen stellen.

00:25:08: Erstens macht diese Technologie Menschen stärker oder abhängiger?

00:25:13: Erweitert sie Fähigkeiten, nimmt sie in Fähigkeiten ab die Sie eigentlich behalten sollten?

00:25:20: Zweitens informiert sie oder manipuliert sie?

00:25:25: Hilft sie Menschen bessere Entscheidungen zu treffen?

00:25:28: Oder drängt sie unbemerkt?

00:25:31: Nutzer und Nutze finden in eine bestimmte Richtung.

00:25:35: Drittens löst sie ein echtes menschliches Problem oder erschaffen wir künstliche Bedürfnisse, weil wir eine Technologie entwickelt haben für die wir jetzt seinen Markt suchen?

00:25:51: Darüber hinaus über diese drei Punkte hinaus, die drei Fragen hinaus.

00:25:56: wer wird durch diese Technologie eigentlich mächtiger?

00:26:00: Der Mensch der sie nutzt oder das Unternehmen dass er kontrolliert?

00:26:05: Diese Fragen müssen wir vor der Entwicklung stellen.

00:26:08: Während der Entwicklung, nach der Markteinführung und nicht erst wenn Schäden sichtbar werden.

00:26:13: Wir müssten akzeptieren dass die richtige Entscheidung manchmal darin besteht eine Technologie nicht einzusetzen.

00:26:21: Eine Funktion nicht umzusetzen.

00:26:24: Nicht jeder Aufgabe muss automatisiert werden.

00:26:27: Nicht jede menschliche Interaktion muss digitalisiert werden.

00:26:31: Nicht jede Entscheidung gehört in die Hände eines Algorithmus.

00:26:35: Nicht jedes technisch machbare Produkt sollte auf den Markt kommen.

00:26:39: Und es hat nichts mit Technikfeindlichkeit zu tun, überhaupt nicht ganz im Gegenteil.

00:26:45: Die Frage was passiert denn eigentlich mit Menschen?

00:26:49: Was passiert in seinen Gesellschaften?

00:26:52: Was passiert mit der Menschheit wenn ich diese Technologie konsequent zur Ende denke und entwickle?

00:26:58: das ist technologische Verantwortung.

00:27:07: ist kein Ziel.

00:27:10: Wert, die Schaffung von echtem Wert ist ein Ziel!

00:27:15: Wir leben in einer Welt, in der technologisch fast alles möglich erscheint.

00:27:21: Künstliche Intelligenz übernimmt nur mehr Aufgaben, Robotik wird Leistungsfähige, Automatisierung erreicht neue Bereiche, die vorher nicht automatisierbar waren.

00:27:30: Vieles davon ist sehr faszinierend... Aber in den mehr als dreißig Jahren, die ich an der Schnittstelle zwischen Mensch und Technologie verbracht habe, habe ich vieles aber auch eines ganz besonders gelernt technologische Möglichkeiten.

00:27:46: Das sind keine sinnvollen Anwendungen!

00:27:49: Und beeindruckende Innovationen sind noch lange kein Fortschritt.

00:27:55: Wir stellen häufig die falschen Fragen Wie leistungsfähig ist ein System?

00:27:59: Wie viel Parameter hat das Modell, wie viele Aufgaben können wir automatisieren und wie viele Menschen nutzen die Anwendung.

00:28:06: Es kann dann interessante Kennzahlen sein aber sie sagen wenig darüber aus welchen Wert eine Technologie tatsächlich schafft.

00:28:14: Ein System kann Millionen Nutzer und deren Lebensqualität verschlechtern.

00:28:18: Eine Automatisierung kann Kosten sparen und gleichzeitig menschliche Fähigkeiten verkümmern lassen.

00:28:24: Eine KI kann beeindruckende Ergebnisse liefern und trotzdem für die eigentliche Aufgabe ungeeignet sein.

00:28:31: Wir müssen wieder stärker über menschliche Bedürfnisse sprechen, über Sicherheit Selbstbestimmung Gesundheit Orientierung Vertrauen Zügehörigkeit Lebensqualität Nicht darüber was Technologie gerade besonders gut kann sondern darüber was Menschen wirklich brauchen.

00:28:52: ein Medizinisches KI-System schafft Wert, wenn es bessere Diagnosen und Behandlungen ermöglicht.

00:28:58: Ein industrieller Roboter ist gut, wenn der Menschen von gefährlichen Aufgaben entlastet.

00:29:06: Eine Kommunikationsplattform ist gut ,wenn sie echte Beziehungen fördert.

00:29:11: Ein Interface einer Menschmaschineschnittsstelle ist gut Wenn Sie Menschen hilft ihre Ziele sicher und selbstbestimmt zu erreichen.

00:29:22: Nicht Die Technologie ist der Maßstab, der Mensch ist es.

00:29:27: Dabei dürfen wir nicht naiv sein.

00:29:29: was für ein Menschen wertvoll ist kann vor allem in anderen Schaden.

00:29:33: Was kurzfristig bequem erscheint kann langfristig problematisch werden.

00:29:36: Was wirtschaftlich attraktiv ist muss gesellschaftlich nicht sinnvoll sein.

00:29:42: Deshalb brauchen wir Entscheidungen Abwägung Verantwortung und Menschen, die bereit sind nein zu sagen.

00:29:48: Nein zur Funktionen, die Nutzer manipulieren, nein zur Automatisierung deren Risiken wir nicht beherrschen, nein zu Geschäftsmodellen, die von menschlicher Abhängigkeit leben.

00:29:57: Nein zu Technologien, die beeindruckend sind aber keinen echten Wert schaffen.

00:30:03: Und das ist für mich der Kern von ethischer künstliche Intelligenz Nicht die Vorstellung dass wir Menschen moral dass wir Maschinen im Oral beibringen und uns anschließend zurücklehnen können.

00:30:17: Sondern die Erkenntnis, das wir Menschen die Verantwortung behalten müssen für unsere Ziele, für unsere Systeme, für unseren Entscheidungen und auch für die Konsequenzen die daraus gehen.

00:30:30: Technologie habe ich schon mehrfach gesagt.

00:30:32: Ich kann es nicht oft genug sagen.

00:30:33: Technologie ist nicht das Ziel.

00:30:36: Wert!

00:30:37: Die Schaffung von Wert ist das Ziel.

00:30:41: Vielleicht sollten wir auch immer nur zu fragen, wie wir Technologie-Leistungsfähige schneller und einfacher nutzbar machen können.

00:30:46: Vielleicht sollten mehr häufiger Fragen, ob wir sie überhaupt brauchen?

00:30:50: Wenn ja, wofür?

00:30:52: Ich wünsche mir eine Zukunft in der Technologie Menschen stärker macht – nicht abhängiger!

00:30:59: In der die künstliche Intelligenz unserer Denken erweitert, nicht ersetzt.

00:31:05: In der digitale Systeme uns Zeit schenken statt unsere Lebenszeit zu stehlen indem wir den Mut haben, nicht alles zu entwickeln was wir entwickeln können.

00:31:17: Am Ende geht es nicht darum wie intelligent unsere Maschinen sind.

00:31:21: das geht darum wie intelligente wir Menschen mit ihnen umgehen.

00:31:27: nur zu dem Computer lasse ich nicht von ihm nutzen an alle die technologie entwickeln und gestalten.

00:31:33: ich weiß es sind viele von euch die mir hierzu hören habe ich noch eine einzige letzte frage schaffen wir Technologien die menschen wirklich brauchen oder schaffen wir Menschen die unsere technologien brauchen?

00:31:47: Darüber sollten wir nachdenken.

00:31:49: Schreibt mir eure Gedanken dazu, lasst mich wissen was ihr davon denkt.

00:31:52: podcastatbeyond-hmi.de.

00:31:57: und bevor ihr die nächste Funktions entwickelt, bevor das nächste Projekt KI Projekt startet, bevor wir wieder einmal behaupten technologischer Fortschritt sei automatisch menschlicher Fortsschritt vielleicht mal kurz nachdenkten.

00:32:11: Die Zukunft der Technologie entscheidet sich nicht im Code sondern in unseren Köpfen.

00:32:22: Das war's für heute.

00:32:24: Ich bedanke mich dafür, dass du Zeit mit mir verbracht hast!

00:32:28: Du hast etwas für dich getan was dir keiner mehr nehmen kann.

00:32:31: Für einen weiteren Austausch findest du mich auf LinkedIn und auf meinen Website www.peter-rösker.com oder unter www.beyondminushmi.de.

00:32:47: Bis zum nächsten Mal, pass auf dich auf und bleibt gesund.