Interview

Chancen und Gefahren von KI

CTO David Ondracek im Interview

Interview

Chancen und
Gefahren von KI

CTO David Ondracek
im Interview

Skeptiker oder Fan der ersten Stunde – kaum ein Thema spaltet die Meinungen aktuell so sehr wie Künstliche Intelligenz (KI).

BAYOOTEC CTO und KI-Experte David Ondracek spricht in diesem Interview mit uns über die Chancen und Gefahren von KI, falsche Erwartungen, gibt Einblicke in Softwareentwicklung mit KI-basierten Tools und erzählt uns, wo seiner Einschätzung nach noch Forschungsbedarf besteht.

BAYOOTEC CTO David Ondracek

Beim Thema Künstliche Intelligenz gibt’s wie bei den meisten neuen Technologie zwei Lager. Zu welche gehörst du, David, bist du Pro oder Contra KI?

Die Frage lässt sich so pauschal gar nicht beantworten, denn die KI ist ja längst da.
Ich kann auch nicht gegen das Tageslicht sein. Ich kann es zwar nicht mögen, aber es ist da und wird nicht weggehen.

Wenn du mich fragst, ob ich eher auf der Seite der Lover oder der, der Hater stehe, dann bin auf jeden Fall auf der Seite der Lover. Ich glaube, dass KI sehr viel Potenzial bietet unser Leben zu vereinfachen und grundlegend zu verändern.

„Viele sehen KI als Gefahr, weil sie nicht verstehen, was sich dahinter überhaupt verbirgt.“

Verstehst du denn, dass es eine Gegenseite gibt, dass einige KI als Gefahr sehen?

Auf jeden Fall und es ist sehr wichtig, dass es eine Gegenseite gibt, denn eine unkontrollierte Einführung von KI könnte zu großen Problemen führen.

In Gesprächen wird mir aber immer wieder bewusst, dass viele dagegen sind, weil sie nicht verstehen, was sich dahinter überhaupt verbirgt. Dann ist es häufig Angst, die geschürt wird oder es gibt die falsche Erwartungshaltung, dass Künstliche Intelligenz alles weiß, alles kann – ein bisschen wie Skynet in Terminator.

Du meinst, diese falsche Erwartungshaltung an KI sorgt für Frust?

Absolut, gerade am Beispiel ChatGPT wird das deutlich. Es fühlt sich so natürlich an sich mit diesem Chat Bot zu unterhalten, alles, was er sagt klingt logisch und ist gut formuliert – man erwartet daher schnell faktisch korrekte Aussagen. Doch das ist genau das, was ChatGPT nicht ist.

ChatGPT ist kein Faktenfinder, keine Datenbank, in der ich nach Fakten suchen kann. Wenn ich aber mit dieser Erwartung eine Frage stelle und eine falsche Antwort erhalte, bin ich enttäuscht und viele verteufeln dann pauschal die ganze KI Technologie. Daraus resultiert dann auch schnell der Gedanke „so gut kann KI gar nicht sein“.

BAYOOTEC - Chancen und Gefahren von KI – BAYOOTEC CTO David Ondracek im Interview

Das liegt doch auch sicherlich daran, dass viele Tools als KI betitelt werden, wo gar keine KI dahinter steckt, oder?

Ja, noch heute werden teilweise Prozessautomatisierungen als KI angepriesen, obwohl im Hintergrund nur Entscheidungstabellen laufen: Wenn Bedingung A zutrifft, dann sage Satz B, sonst sage Satz C.
Das ist aber gerade bei generativen Modellen wie ChatGPT definitiv nicht der Fall. Das sind viel eher statistische Modelle und im Hintergrund passiert so viel, dass man es gar nicht mehr erfassen kann. Solche Modelle muss man dann eher wie eine menschliche Intelligenz betrachten.

„Bei KI gilt der Grundsatz: Mit persönlichen Daten verantwortungsvoll umgehen.“

Birgt KI denn greifbare Gefahren? Gerade im Bereich Datenschutz liest man immer wieder etwas dazu.

Natürlich ist KI eine Gefahr, wenn es um Datenschutz geht. Aber es ist keine größere Gefahr als Social Media. Es gilt der gleiche Grundsatz: Mit persönlichen und kritischen Daten verantwortungsvoll umgehen.

Dabei ist es egal, ob jemand Bilder seiner Kinder auf Facebook postet oder die vollen Namen der Kinder inklusive Anschrift einer KI gibt – wir müssen uns alle im Bereich Medienkompetenz bilden und KI gehört jetzt dazu. Dementsprechend sehe ich da zwar eine Gefahr, aber keine neue.

In diesem Blogbeitrag hat David bereits über KI in der Softwareentwicklung geschrieben, wie genau wir bei BAYOOTEC mit Copilot programmieren und wie groß die Gefahr ist, dass Künstliche Intelligenz unsere Arbeitsplätze ersetzt. Hier gelangst Du zum Beitrag.

Wenn wir uns jetzt der positiven Seite zuwenden, dem Grund, weshalb man KI überhaupt verwenden sollte: Was kann KI bereits heute besser als wir, wo kann sie uns vielleicht unterstützen?

Mustererkennung ist der Kern des Ganzes, das, worauf KI basiert. „Muster“ muss man hier jedoch weiter gefasst sehen. Das können Muster im Verhalten, in Code und generell in jeglichen Daten, und zwar in einer unglaublichen Menge an Daten sein.

KI kann sehr viele Daten in sehr kurzer Zeit erfassen und mögliche Zusammenhänge und Muster erkennen – besser als jeder Mensch es je könnte. Da kommt es nur darauf an, wie man es verwendet.

„Im Bereich Cybersecurity kann KI unterstützen.“

Hast du ein gutes Beispiel dafür aus der Softwareentwicklung? Wie setzt ihr KI bei BAYOOTEC ein?

BAYOOTEC - Chancen und Gefahren von KI – CTO David Ondracek im Interview

Ein wichtiges Feld unserer Arbeit bei BAYOOTEC ist Cybersecurity. Wenn es einen Angriff auf eine Website gibt, kann KI diesen anhand der Anomalie in den Zugriffen erkennen. Als reine Alerting Funktion umgesetzt, wird in diesem Fall eine Benachrichtigung an einen Verantwortlichen geschickt, mit dem Hinweis: „Vorsicht, hier passiert was, das solltest du dir Mal dringend ansehen“.

Künstliche Intelligenz kann aber auch reagieren, indem sie die auffällige Quelladresse, die ganze Website oder einen gewissen Bereich der Website sperrt. So können dann potenzielle Angriffe abgewehrt und sensible Daten geschützt werden.

Blicken wir in die Zukunft: Wo besteht deiner Meinung nach noch Forschungsbedarf im Bereich von Künstlicher Intelligenz? Was sind Herausforderungen, vielleicht Probleme, die du kommen siehst?

Die Aktualität der Daten ist ein Thema, wofür man definitiv noch eine Lösung braucht.
Das beste Beispiel dafür ist ChatGPT. Vielen ist gar nicht bewusst, dass die Daten, anhand derer die KI trainiert wurde, schon zwei Jahre alt sind (Stand September 2021). Das bedeutet, ChatGPT hat seit 2021 nichts dazugelernt und weiß dementsprechend auch nichts über neueste Technologien, Entwicklungen und Kenntnisstände.

Das liegt unter anderem daran, dass es lange braucht KI-Modelle wie ChatGPT zu trainieren, zum Teil müssen auch Daten im Voraus aufbereitet werden.
Es gibt in der KI Forschung bereits Ansätze, wie man mit wenigen Daten zu sehr guten Modellen kommt und wie die Daten vorbereitet und vorab gefiltert werden können.
Bei der BAYOONET Group beschäftigen sich auch einige Mitarbeiter:innen akademisch damit. Wenn KI-Modelle völlig ungefiltert lernen würden, würde das zu großen Problemen führen.

„Wenn wir keine Angst haben, hat KI ein enormes Potenzial.“

Was meinst du?

KI hat keine ethischen Vorstellungen, keine Grenzen, keine Moral. Wenn KI-Modelle unentwegt lernen und ungefiltert auf Input zugreifen, kann das richtig schiefgehen. Ein gutes Beispiel dafür ist der Microsoft KI-Bot Tay, der 2016 auf Twitter losgelassen wurde und durch die Interaktion von Usern gelernt hat. Die ersten Antworten von ihm waren harmlos, doch innerhalb kurzer Zeit hat der KI-Bot rassistische, extremistische und anti-feministische Kommentare verfasst. Nur 16 Stunden nach Start musste Microsoft den KI-Bot wieder abschalten.

Aus diesem Grund laufen Antworten bei Chat Bots wie ChatGPT häufig durch eine Art Filterareal, einer Art moralischem Zentrum, dass Aussagen prüft. Man merkt die Existenz dieser Filtermechanismen auch immer wieder, wenn man ChatGPT nach Politik fragt.

 

Das heißt, was aktuell fehlt ist eine Lösung, die zwar schneller lernen kann und aktuelle Daten nutzt, aber trotzdem über ausgereifte Filtermechanismen verfügt?

Genau, eine Art Kontrollinstanz.

Am Ende ist und bleibt es eine Balance, KI kann nicht 100% für uns denken. Aber solange wir keine Angst haben und uns darüber bewusst sind, was es für ein enormes Potenzial hat, kann sie genau das tun, wofür sie entwickelt wurde: Eine Hilfestellung für uns sein, um uns Arbeit zu erleichtern und Prozesse zu optimieren.

Auch abseits von KI-Tools gehört Künstliche Intelligenz zu unserem Arbeitsalltag. Mit KI optimieren wir Prozesse in Unternehmen, steigern die Sicherheit und senken gerade im Bereich E-Commerce Kosten. Wie das funktioniert? Das liest du hier in unserer BAYOOTEC Leistungsübersicht.

BAYOOTEC - KI in der Softwareentwicklung - Sind Tools wie GitHub Copilot die Zukunft
BAYOOTEC - Softwareentwicklung von Enterprise Software
  • Ein effektives Content Management System ist das Herzstück Deiner digitalen Präsenz. Doch welches CMS ist das richtige für mich? Unser Whitepaper bietet wertvolle Einblicke, Auswahlkriterien und Best Practices für eine informierte Entscheidung.

  • Du bist auf der Suche nach einer effektiven Methode, um Dein Datenmanagement zu revolutionieren und dabei auch noch Methoden für eine History und ein Audit umzusetzen? Dann solltest Du Dich unbedingt mit dem Thema Temporal Tables auseinandersetzen.

  • In 10 Jahren Zusammenarbeit von Freudenberg Sealing Technologies und BAYOOTEC sind viele digitale Lösungen rund um den Vertrieb und um die Steigerung des Produktinteresses entstanden. Auf Merkmale der Zusammenarbeit, wie Stabilität in Form einer geringen Fluktuation des Teams, das Verständnis für die Tragweite der Lösungen und Verantwortungsbewusstsein habe FST dabei stets Wert gelegt.

  • Als einer der bekanntesten Dienstleister für User Experience komplementiert UID unser Portfolio. Wo wir uns in vielen Bereichen, wie beispielsweise der Expertise rund um digitale Transformation oder UX/UI auf den Erfahrungsaustausch freuen, ist die enge Zusammenarbeit auch für Dich als Kunde ein großer Gewinn.

Jetzt teilen
BAYOOTEC - Softwareentwicklung von Enterprise Software