KI – Risiken und Chancen Künstlicher Intelligenz

von Nada Welker | Juni 7, 2024 | Künstliche Intelligenz, High Tech Trends, Know-how und Inspiration, Marktentwicklung & Trends, Strategie im Wandel, Technologien für neue Märkte

Trotz der vielversprechenden Potenziale und Chancen künstlicher Intelligenz gibt es auch ernsthafte Herausforderungen zu bewältigen. Datenschutz, ethische Bedenken und die Möglichkeit von Missbrauch sind nur einige davon. Es ist unerlässlich, dass wir nicht nur die Chancen künstlicher Intelligenz, sondern auch die Risiken von KI ernsthaft betrachten und entsprechende Maßnahmen ergreifen, um sie zu adressieren. Aber schauen wir erstmal noch aus mathematischer Sicht auf die Potentiale und Chancen Künstlicher Intelligenz.

Dr. Julian Feinauer, Gründer der Pragmatic Industries und der Pragmatic Minds erklärte sehr anschaulich bei der von Frau Dr. Natalie Pfau-Weller initiierten Veranstaltung “Künstliche Intelligenz – Chance oder Herausforderung?“ in Kirchheim unter Teck im April 2024, was künstliche Intelligenz aus mathematischer Sicht eigentlich ist, welches Potential in ihr steckt und was künstliche Intelligenz mit Energie zu tun hat.

[infobox headline=“Das Wichtigste in Kürze“]

• Mathematische Komplexität: KI erweitert Konzepte wie die lineare Regression auf eine komplexe Ebene mit Milliarden von Parametern, was zeigt, wie leistungsfähig diese Technologie ist.
• Vielseitige Anwendungsbereiche: KI hat das Potenzial, nahezu alle Lebensbereiche zu transformieren, von der Automatisierung bis zu personalisierten Lösungen einschließlich beeindruckender Fortschritte in der Bild- und Videogenerierung.
• Energiebedarf : Der Energieverbrauch von KI-Anwendungen ist sehr hoch, was die Notwendigkeit nachhaltiger Energiequellen und -strategien betont.
• Ethische Bedenken und Verantwortung: Die Nutzung von KI wirft wichtige ethische Fragen auf, wie die Einhaltung des Datenschutzes, die Verhinderung von Diskriminierung und die Eindämmung von Missbrauch durch Deepfakes.
• Regulatorische Maßnahmen: Der EU AI Act setzt wichtige Rahmenbedingungen für die sichere und ethische Nutzung von KI, einschließlich Transparenzanforderungen und dem Schutz der Privatsphäre.

[/infobox]

Was Lineare Regression mit Künstlicher Intelligenz zu tun hat

Die meisten sind mit dem Konzept der linearen Regression aus dem Lehrplan der 8. Klasse vertraut, bei dem es um die einfache Formel Ax+B geht. Doch in der Welt der Künstlichen Intelligenz erweitert sich dieses Konzept exponentiell. Statt nur zwei Koordinatenachsen wie bei der linearen Regression, haben wir hier unzählige Achsen. Das Ergebnis ist nicht mehr eine einfache Linie, sondern eher eine dynamische, sich bewegende Fläche. Mit Modellen, die über 400 Milliarden oder sogar 700 Milliarden Parameter verfügen, wird deutlich, wie komplex und leistungsfähig KI sein kann. Das ist aus mathematischer Sicht die Essenz dessen, was künstliche Intelligenz ausmacht.

Das Potenzial ist jetzt anschaulich dargestellt. Welche Möglichkeiten tun sich damit auf?

Anwendungsbeispiele der KI

Künstliche Intelligenz bietet endlose Möglichkeiten für Fortschritt und Innovation. Von der Automatisierung von Arbeitsabläufen bis hin zur Entwicklung personalisierter Lösungen hat KI das Potenzial, nahezu alle Bereiche des Lebens zu transformieren. Durch die Fähigkeit, Muster zu erkennen, Entscheidungen zu treffen und komplexe Probleme zu lösen, ebnet KI den Weg für allerhand neue Möglichkeiten. Im Folgenden stellen wir die von Dr. Julian Feinauer in seinem Vortrag angeführten Beispiele dar, wie KI heute schon angewendet wird.

Bildgenerierung mit Künstlicher Intelligenz

Generierte Bilder haben in jüngster Zeit viel Aufmerksamkeit erregt, insbesondere in Bezug auf die Frage, welche dieser Bilder echt sind und welche nicht. Es ist faszinierend zu sehen, wie KI-Modelle wie z.B. VASA A1 in der Lage sind, aus einem einzigen Foto und einer Tonspur komplexe visuelle und auditive Inhalte zu generieren. Doch wie funktioniert das genau?

Wenn ein stark verrauschtes Bild einer KI zur Entrauschung vorgelegt wird und die KI wiederholt dazu angewiesen wird, das Bild zu verbessern, wird sie mit hoher Wahrscheinlichkeit bestimmte Muster erkennen und herausfiltern. So kann beispielsweise eine Katze auf einem stark verrauschten Bild freigelegt werden, indem die KI wiederholt angewiesen wird, das Bild zu entrauschen. Dies zeigt die erstaunliche Fähigkeit der KI, komplexe Muster zu erkennen und zu rekonstruieren.

Die Technologie hinter der KI-gestützten Bilderstellung entwickelt sich rasant. Die Weiterentwicklung der Bildgenerierung ist die KI-Videogenerierung. Erst vor Kurzem wurde mit VASA A1 von Microsoft ein solches Tool vorgestellt.

KI-Videogenerierung aus Foto und Audio: Beeindruckende Fortschritte

KI erobert die Videobearbeitung

Mit Tools wie VASA A1, ist es nun möglich, aus einem einzigen Foto und einer Tonspur ein realistisch animiertes Video zu erstellen. Die Ergebnisse sind verblüffend. Die KI kann Gesichter realistisch animieren und sogar die Lippenbewegungen mit der Audiospur synchronisieren. So entsteht ein flüssiges und natürliches Video, das auf den ersten Blick von echtem Filmmaterial kaum zu unterscheiden ist. Trotz dieses Fortschritts gibt es noch Verbesserungspotenzial. In einigen Fällen können kleine Fehler auftreten, wie zum Beispiel leicht verrutschte Zähne beim Sprechen. Auch die KI-generierte Umgebung wirkt manchmal noch etwas künstlich.

Im Grunde genommen folgt die KI-Videogenerierung dem gleichen Prinzip der Bildgenerierung und kann als eine Art Entrauschen betrachten werden. Anhand des Fotos und der Audiospur „entfernt“ die KI Unschärfe und Ungenauigkeiten und füllt die Lücken mit realistischen Details.

Die Entwicklung geht schnell voran. Es ist davon auszugehen, dass KI-Videogeneratoren in naher Zukunft noch präzisere und realistischere Ergebnisse liefern werden. Dies könnte die Art und Weise, wie wir Videos erstellen und konsumieren, grundlegend verändern.

Potentielle Anwendungsfelder

Die Einsatzmöglichkeiten für KI-generierte Videos sind vielfältig. Sie könnten zum Beispiel in der Filmproduktion, Werbung, Bildung oder sogar im Bereich der sozialen Medien Verwendung finden.

Ethische Bedenken

Mit der neuen Technologie gehen allerdings auch ethische Bedenken einher. So könnte die KI-Videogenerierung zur Erstellung von Deepfakes missbraucht werden, also von Videos, in denen Personen manipuliert dargestellt werden. Es ist daher wichtig, dass diese Technologie verantwortungsvoll eingesetzt wird.

Die KI-Videogenerierung befindet sich noch in einem frühen Stadium, bietet aber enormes Potenzial. Mit der Weiterentwicklung der Technologie können wir in Zukunft noch erstaunlichere und realistischere Videos erwarten. Es ist jedoch wichtig, sich der ethischen Bedenken bewusst zu sein und die Technologie verantwortungsvoll zu nutzen.

Sprachmodelle mit künstlicher Intelligenz

Ein weiterer Bereich, der sich rapide entwickelt, sind große Sprachmodelle wie ChatGPT. Diese Modelle basieren auf dem Prinzip der Wahrscheinlichkeitsrechnung, bei der jedes Wort einer bestimmten Zahl zugeordnet wird und die Wahrscheinlichkeit für das nächste Wort basierend auf dem vorherigen Kontext berechnet wird. Durch das Training mit riesigen Datensätzen kann die KI lernen, realistisch wirkende Texte zu generieren und sogar auf Fragen zu antworten. Dass die Antworten jedoch nicht immer zielführend sind, zeigt Dr. Julian Feinauer bei seinem Vortrag anhand eines Anwendungsbeispiels mit ChatGPT. Er fragte nach Dr. Natalie Pfau Weller, Landtagsabgeordnete der CDU des Wahlkreises Kirchheim unter Teck und erhält eine humorvolle Antwort.

In der Welt der Künstlichen Intelligenz ist Frau Dr. Pfau-Weller Schlagerstar. Sie hat sogar schon durchschlagende Hits veröffentlicht und begeistert ihre Fans auf ihrer Tournee.

In dieser scheinbaren Realität offenbart sich eine entscheidende Schwäche der Sprachmodelle. Die Verwendung von Tools wie ChatGPT oder Gemini kann zweifellos das Leben erleichtern, indem sie komplexe Aufgaben automatisieren und Zeit sparen. Jedoch ist es unerlässlich, stets mit gesunden Menschenverstand zu prüfen, ob die erzeugten Ergebnisse der Wahrheit entsprechen. Trotz dieser Schwächen können Sprachmodelle nützliche Werkzeuge sein, wenn sie verantwortungsvoll eingesetzt werden. Es ist aber wichtig, sich ihrer Grenzen bewusst zu sein und die Schwächen zu kennen.

Die Schwächen von Sprachmodellen

• Vorurteile und Diskriminierung: Texte können diskriminierend oder beleidigend sein.
• Fehlende Faktengenauigkeit: Texte können grammatikalisch korrekt sein, aber nicht der Realität entsprechen.
• Manipulierbarkeit: Texte können gefälschte Nachrichten oder Propaganda enthalten.
• Mangel an gesundem Menschenverstand: Texte können zwar korrekt sein, aber keinen Sinn ergeben.
• Mangel an Kreativität: Texte ähneln oft den Trainingsdaten und sind nicht wirklich kreativ.

Zusätzliche Einschränkungen:

• Größe und Rechenleistung: hoher Bedarf an Rechenleistung für Training und Nutzung.
• Datenverfügbarkeit: Für das Training in neuen Sprachen oder Domänen sind große Datenmengen erforderlich.
• Kosten: Training und Nutzung können teuer sein.
• Eine große Herausforderung ist der hohe Energiebedarf, der sich durch den immensen Bedarf an Rechenleistung von KI-Anwendungen ergibt.

Wo nehmen wir die Energie für KI-Anwendungen eigentlich her?

Eine einzige Anfrage an ChatGPT verbraucht etwa 3000 Wattstunden Energie, was dem Energieäquivalent von 21 Tassen Kaffee oder circa 1,4 Kilometern Fahrt mit einem Elektroauto entspricht. Interessant ist, dass der Energieverbrauch für eine einzelne Anfrage an ChatGPT dem Energieverbrauch von 1000 Google-Suchanfragen entspricht. Angenommen, jeder der 100 Millionen aktiven Nutzer von ChatGPT stellt nur eine Anfrage pro Monat, würde dies einem Gesamtenergieverbrauch von 2,1 Mrd. Tassen Kaffee entsprechen.

Nach einer Studie im Magazin „Joule“ könnte der Energieverbrauch von künstlicher Intelligenz im Jahr 2027 den Wert von 134 Terrawattstunden übersteigen. 134 TWh. Zum Vergleich: Alle deutschen Haushalte zusammen verbrauchen im Jahr etwas über 100 TWh.

Wenn wir über das Training von KI-Modellen sprechen, übersteigt der Energiebedarf dieser Modelle oft den Energieverbrauch zahlreicher Haushalte. Jedem sollte das im Zusammenhang mit der Nutzung von KI-Modellen bewusst sein. Es ist wichtiger denn je, dass wir nachhaltige Wege finden, um diesen immensen Energiebedarf, der in den nächsten Jahren zunehmen wird, zu decken. KI ist nicht mehr wegzudenken, und die Modelle werden weiterentwickelt und genutzt werden. Dazu ist Energie notwendig.

Ethikfragen und gesellschaftliche Auswirkungen

Die Einführung von KI wirft auch wichtige ethische Fragen auf, insbesondere in Bezug auf die Auswirkungen auf unsere Gesellschaft. Fragen der Gerechtigkeit, Gleichheit und Transparenz müssen sorgfältig berücksichtigt werden, um sicherzustellen, dass KI zum Wohl aller eingesetzt wird und niemanden benachteiligt. Der Gedanke an die wahrscheinliche Antwort auf die Frage, wie autoritäre Staaten diese Entwicklungen nutzen könnten, lässt uns zu dem Schluss kommen, dass es von absolut höchster Priorität ist, dass die ethische Verantwortung bei der Nutzung von KI-Modellen überwacht werden muss.

Regulierung für KI-Anwendungen  –  EU AI ACT

Mit dem wachsenden Einfluss und der zunehmenden Verbreitung von Künstlicher Intelligenz (KI) in verschiedenen Bereichen der Wirtschaft und des täglichen Lebens steigt auch die Notwendigkeit einer angemessenen Regulierung, um die Nutzung dieser Technologie sicherer und ethisch verantwortungsbewusster zu gestalten. In diesem Zusammenhang hat die Europäische Union (EU) kürzlich den AI Act vorgeschlagen, eine wegweisende Gesetzgebung, die darauf abzielt, klare Regeln für die Entwicklung, den Einsatz und die Überwachung von KI-Anwendungen festzulegen. Der AI Act befindet sich derzeit in einem fortgeschrittenen Stadium des Gesetzgebungsprozesses. Es wurden bereits umfangreiche Diskussionen, Beratungen und Bewertungen durchgeführt, um die verschiedenen Aspekte des Gesetzes zu prüfen und sicherzustellen, dass es den Bedürfnissen und Anforderungen sowohl der Industrie als auch der Gesellschaft gerecht wird. Obwohl der genaue Zeitplan für die Verabschiedung des AI Act noch nicht endgültig festgelegt ist, deutet alles darauf hin, dass die EU-Mitgliedstaaten und die relevanten Institutionen entschlossen sind, den Prozess voranzutreiben und die Regulierung von KI-Anwendungen in absehbarer Zeit zu verbessern.

Eine Zusammenfassung der wesentlichen Inhalte des EU AI Acts

1. Risikobasierte Klassifizierung: KI-Systeme werden basierend auf ihrem Risikopotenzial in verschiedene Kategorien eingeteilt, mit strengen Auflagen für hochriskante Systeme.
2. Datenschutz und Menschenrechte: Der AI Act schützt die Privatsphäre und die persönlichen Rechte, indem er invasive oder diskriminierende Nutzung von KI-Technologien verhindert.
3. Transparenzanforderungen: Für bestimmte KI-Systeme, wie Chatbots, gelten klare Transparenzvorschriften, um die Nutzer über die KI-Interaktion aufzuklären.
4. Technische Anforderungen: Die Verordnung verlangt die Entwicklung von KI-Systemen, die menschliche Autonomie achten und Schäden vermeiden.
5. Verbotene Praktiken: Bestimmte Anwendungen, die den freien Willen der Nutzer untergraben könnten, sind ausdrücklich verboten

Was sind nun die Risiken und Chancen künstlicher Intelligenz?

Chancen künstlicher Intelligenz

1. Prozessoptimierung: KI ermöglicht eine signifikante Steigerung der Prozesseffizienz durch Automatisierung und präzisere Steuerung der Unternehmensprozesse.
2. Datenbasierte Entscheidungsfindung: KI unterstützt Unternehmen dabei, aus großen Datenmengen wertvolle Einsichten zu gewinnen, die fundierte Entscheidungen ermöglichen und die Wettbewerbsfähigkeit steigern.
3. Personalisierte Kundenansprache: Durch KI können Unternehmen individuell zugeschnittene Marketingstrategien und Produkte entwickeln, die besser auf die Bedürfnisse und Präferenzen der Kunden abgestimmt sind.
4. Effizienteres Supply Chain Management: KI hilft bei der Optimierung der Lieferketten, indem sie Prognosen und die Nachverfolgung von Lieferungen verbessert, was zu geringeren Kosten und schnelleren Lieferzeiten führt.
5. Erhöhung der Betriebssicherheit: KI kann dazu beitragen, die Sicherheit am Arbeitsplatz durch Überwachung und Vorhersage potenzieller Gefahren zu erhöhen, insbesondere in der produzierenden Industrie.

Risiken

1. Datenschutzbedenken: KI-Systeme, die große Mengen an Unternehmens- und Kundendaten verarbeiten, bergen das Risiko von Datenschutzverletzungen, die das Vertrauen der Kunden und die Einhaltung gesetzlicher Bestimmungen gefährden können.
2. Entscheidungsverzerrungen: Wenn KI-Systeme auf Basis verzerrter oder unvollständiger Daten trainiert werden, können sie fehlerhafte oder diskriminierende Entscheidungen treffen, die rechtliche und reputative Risiken darstellen.
3. Sicherheitsanfälligkeiten: KI-basierte Systeme können Ziel von Cyberangriffen sein, die nicht nur die IT-Sicherheit, sondern auch die physische Sicherheit von automatisierten oder autonomen Systemen gefährden und damit letztlich auch den Menschen.
4. Überabhängigkeit von Technologie: Die Häufige Nutzung von KI-Systemen kann zu starker Abhängigkeit und damit einhergehendem Verlust an kritischen Denk- und Entscheidungsfähigkeiten führen, was besonders in Krisensituationen riskant ist.
5. Regulatorische Compliance: Die schnelle Entwicklung der KI-Technologie kann zu Unsicherheiten bei der Einhaltung bestehender und zukünftiger regulatorischer Anforderungen führen, was Unternehmen vor rechtliche Herausforderungen stellt.

Künstliche Intelligenz (KI) birgt also enormes Potenzial, erfordert jedoch die Berücksichtigung von Datenschutz, Ethik und Missbrauchsrisiken. Trotz mathematischer Komplexität und breiten Anwendungsmöglichkeiten, wie in Bild- und Videogenerierung, bleiben hoher Energiebedarf und ethische Bedenken zentrale Herausforderungen. Der EU AI Act setzt regulatorische Rahmenbedingungen zur sicheren Nutzung. Chancen künstlicher Intelligenz liegen in Prozessoptimierung und personalisierten Lösungen, während Risiken in Datenschutzverletzungen, Entscheidungsverzerrungen und Sicherheitsrisiken bestehen.

Bei der Magility Group haben wir das Thema Künstliche Intelligenz aus verschiedenen Perspektiven gründlich diskutiert. Für uns ist klar, dass die Weiterentwicklung von KI nicht infrage steht, sie ist eine unvermeidliche Tatsache,  ganz gleich was die individuelle Einstellung dazu sein mag. Unternehmen, die sich nicht intensiv mit KI auseinandersetzen, werden unweigerlich abgehängt. KI ist entscheidend für die zukünftige Wettbewerbsfähigkeit und Innovation in nahezu allen Branchen, weshalb eine proaktive Auseinandersetzung damit unerlässlich ist.

Sprechen Sie uns gerne an wenn Sie planen KI-Themen in Ihrem Unternehmen anzugehen. Auch unsere Kollegen der XaiTeck helfen Ihnen gerne weiter.