Daten- & KI-Souveränität konkret: Mehr Kontrolle für Europas Unternehmen, mit Eric Trabold, Exasol

00:00:00: Sofernität für Erika ist nicht alle deine Daten und all deinen Technologien, weil man muss on-prem leben.

00:00:07: Das heißt es absolut nicht.

00:00:09: Sofernitet heißt die Möglichkeit Kontrolle zu haben darüber wo deine Daten leben, wo deine darten hingehen Die Kontrolle darüber zu haben auch wie sich Kosten entwickeln Und ich würde sagen auch der wichtigste Aspekt von Resilienz.

00:00:24: und dann Flexibilität.

00:00:26: Was passiert denn, wenn ich zum Beispiel mit einem bestimmten Provider nicht mehr zusammenarbeiten kann aus geopolitischen Situationen heraus oder aus anderen Situationen raus?

00:00:46: Hallo und herzlich willkommen zum Data Culture Podcast!

00:00:49: Ich bin Karsten Bange, Gründer und Zürer von Barg Und mein Gast heute ist Erik Trabold Chief Commercial Officer bei

00:00:56: Exasoll

00:00:57: Und wir reden über ein Thema, was für viele Unternehmen immer wichtiger wird.

00:01:01: Digitale Souveränität.

00:01:03: Erik hat hier eine interessante Perspektive aufs Thema denn er war vor seiner Tätigkeit bei einem deutschen Datenbankanbieter extra so lange bei AWS erkennt also sozusagen auch beide Seiten und wir sprechen darüber warum Cloud nicht mehr als bequeme Standardlösung

00:01:20: jetzt

00:01:20: immer reicht

00:01:21: sondern

00:01:22: dass wir auch den Blickwinkel Kontrolle Flexibilität und Risiko

00:01:25: einnehmen müssen

00:01:27: und erklärt auch

00:01:28: uns dabei,

00:01:29: wie Unternehmen ihre Datenlandschaft analysieren,

00:01:31: Abhängigkeiten erkennen und Workloads sinnvoll nach

00:01:34: Grün-, Gelb- und Rotklassifizieren können.

00:01:36: Außerdem geht es auch um die Rolle von KI – was passiert wenn sensible Daten im Cloud Tools landen?

00:01:42: Wie lassen sich Kosten besser kontrollieren und

00:01:44: warum kommen Open

00:01:45: Source Modelle und europäische Alternativen in vielen Fällen überraschend stark sein?

00:01:50: Eine Folge für alle, die verstehen wollen wie Datens, Strategie, KI und Souveränität heute zusammenhängen.

00:01:56: Viel Spaß damit!

00:01:58: Hallo Eric willkommen im Data Culture Podcast.

00:02:01: Hallo Karsten freut mich heute da zu sein.

00:02:04: Absolut Erik ich glaube du bist ein besonders spannender Gast denn... Du hast ja eine gewisse Karriere auch im Silicon Valley gemacht und bist jetzt schon AWS, einmal so ein Webservice zu Exersal gewechselt.

00:02:16: Also einen kleinen deutschen Datenbackanbieter.

00:02:19: Und jetzt ist meine erste Frage wie hat sich eigentlich dadurch in so dein Gesamtblick eigentlich verändert auf Cloud-Datenarchitekturen oder natürlich auch Datensouveränität eines der heißen Themen gerade?

00:02:31: Ja, Carsten das hast du schon richtig gesagt.

00:02:34: Ich hatte die Chance in der Renninteressante Perspektiven zu sammeln.

00:02:38: Einmal die großen Hyperscaler EWS und jetzt bei einer deutschen Datenbankfirma, die sich sehr stark auf Analytics fokussiert.

00:02:47: und AI ist natürlich auch ein Top-Topic.

00:02:50: Und durch meine Zeit bei AWS habe ich sehr großen Respekt dafür was die Hyperscala eigentlich für Firmen enablen Weil ich denke, die Cloud hat sehr stark die Erwartung an Technologie verändert.

00:03:03: Im positiven Sinn.

00:03:05: Die Cloud hat viel Agilität gebracht und sehr viel Flexibilität gebracht.

00:03:09: Und hat Unternehmen wirklich geholfen ganz neue Business Cases auch zu erneben.

00:03:13: Also es ist jetzt nicht so dass ich durch die Zeit meiner deutschen Datenbankfirma sage... ...die Cloud- und Hyperscalers sind nicht gut, sondern ich habe sehr stark einen Respekt dafür.

00:03:23: Auf der anderen Seite sehe ich jetzt auch bei Exasol Wie wichtig das ist in bestimmten Industrien, im speziellen und regulierten Industrie wie jetzt Financial Services, Banking, Healthcare.

00:03:36: Wie wichtig da das Thema Souveränität ist und Flexibilität in Bezug auf die Technologien, die du einsetzt?

00:03:42: Okay also Fokus-Regulierte Industrien.

00:03:46: Wie siehst Du jetzt mal auch mit diesem Fokus auf diese Branchen denn deren Strategien oder Vorgehensweisen?

00:03:57: Oder siehst du da auch Veränderungen im Zuge der aktuellen Souveränitätsdiskussion.

00:04:01: Ja, sehr spannende Frage, Carsten!

00:04:04: Also diese Diskussion meinte ich aber ist dass sie sich sehr stark verändert hat in den letzten zwölf Monaten ganz besonders.

00:04:12: Wir haben einen starken Schiff gesehen weil sich die geopolitische Situation verändert hat.

00:04:17: Leute haben mehr Awareness und mehr Wahrnehmung dafür, dass sie sich vielleicht über Souveränität Gedanken machen sollten.

00:04:26: Mir kommt es so vor als vor sage ich mal zwölf bis achtzehn Monaten Souveranität von der Compliance Checkbox.

00:04:34: Und jetzt denken Leute tatsächlich darüber nach über die Wichtigkeit von Souveräntät.

00:04:38: Vielleicht stelle ich auch nochmal klar was meine Definition von Soverenität ist also Souverainität für Erika Alle deine Daten und all deinen Technologien, weil man muss on-prem leben.

00:04:50: Das heißt es absolut nicht.

00:04:52: Souveränität heißt die Möglichkeit Kontrolle zu haben darüber wo deine Daten leben, wo deine Daten hingehen.

00:05:00: Die Kontrolle darüber zu haben auch wie sich Kosten entwickeln das ist auch ein gewisser Ansatz der zur Souveranität dazu gehört.

00:05:10: Und ich würde sagen auch der wichtigste Aspekt von Resilienz.

00:05:14: und dann Flexibilität.

00:05:16: Was passiert denn, wenn ich zum Beispiel mit einem bestimmten Provider nicht mehr zusammenarbeiten kann aus geopolitischen Situationen heraus oder aus anderen Situationen raus?

00:05:26: Und dass man sich selber darüber Gedanken macht wie erstellig ein Environment in meiner Firma technologisch ist, dass mir die Flexibilität gibt auch morgen operativ zu bleiben, wenn es heute eine Veränderung gibt.

00:05:39: Ja, das ergibt natürlich viel Sinn.

00:05:41: und genau das, was du sagst sehen wir auch in unserer Data Sub&T-Studie.

00:05:46: Das eben neun Achtzig Prozent gesagt haben das für sie ein wichtiges Thema, was hast Du ja gerade auch gespiegelt?

00:05:51: Was wir aber auch sehen ist dass natürlich dann konkret etwas zu tun also da eine Veränderung zu machen gar nicht so einfach ist weil das heißt der dann wirklich Commitment im Sinne von Wir müssen was verändern!

00:06:04: Wir müssen investieren vielleicht auch neue Skills ausbilden.

00:06:08: Wie ist dein Blick darauf?

00:06:10: Ist denn dann auf dieser Schritt wirklich was zu tun, ist das inzwischen schon angekommen bei dem Unternehmen.

00:06:15: Also nehmen Sie jetzt auch diesen Zusatzaufwand auf sich für mehr Souveränität?

00:06:19: Ja Carsten ich würde sagen bei einigen Unternehmen auf jeden Fall noch nicht in der breiten Masse aber auf jeden fall bei einigem Unternehmen ist es sehr wichtig geworden und vielleicht was ich gesehen habe aus einem gutes Exercizes was einige Unternehmen machen dass die sozusagen erstmal sich darüber Gedanken machen, was ist denn das Mapping der Technologien unserer Firma und wo stehen wir denn?

00:06:42: Also das ist ja der allererste Schritt, Karsten, den man gehen muss.

00:06:45: Ist eine Ist-Analyse.

00:06:47: Und eine Ist Analyse daraufhin bezogen, worher leben aktuell unsere Daten?

00:06:53: haben wir da tatsächlich komplette Kontrolle darüber?

00:06:55: wenn wir etwas mit den Daten machen wer greift dann überhaupt da drauf zu?

00:07:01: Und da gibt es noch mehrere Aspekte dazu.

00:07:03: Aber wenn Unternehmen das tatsächlich metten oder sagen zum Beispiel, okay, wenn wir diesen ein Use Case ausführen, sind wir da komplett dependent in Bezug auf einen Wender?

00:07:13: Oder haben wir der Flexibilität, dass werden mit dem Einwender was passiert, dass wir dann umschiften können?

00:07:19: also das würde ich sagen ist der erste Schritt.

00:07:21: und ich sehe einige Firmen machen diesen ersten Schritt und dann würde ich Ein Teil der Firmen dann geht jetzt aktuell aktiv den nächsten Schritt und baut dann eine Umgebung auf, die ihnen tatsächlich diese Flexibilität gibt.

00:07:36: Und diese Souveränität.

00:07:38: Wie sehen solche Umgebungen dann konkret aus?

00:07:41: Also was würde ich jetzt einfach mal behaupten dass die allerwenigstens komplett weggehen von Cloud oder Hyperscaler-Umgebungen?

00:07:50: Oder vielleicht doch kannst du vielleicht beantworten.

00:07:52: aber Also, wie sehen solche Umgebungen dann aus?

00:07:55: Wo du sagst da ist die nötige Flexibilität dann gewährlastet.

00:07:59: Ja

00:07:59: vielleicht gehe ich dann nochmal zu den Fragen zurück, die sich einige Unternehmen stellen und nicht denke auch sich tatsächlich jedes Unternehmen aktuell stellen sollte.

00:08:10: Die erste Frage wäre vielleicht kann ich meine Daten woanders hin bewegen?

00:08:15: wenn das sein muss Can I move my workload?

00:08:18: Wenn ich das auch diese Daten woanders hinbewege, kann ich eigentlich die Performance bei behalten, die ich zuvor hatte.

00:08:25: Kann auch passieren.

00:08:26: Kann nicht zum Beispiel wenn es um KI geht Model Provider ganz einfacher austauschen.

00:08:31: Kann ich über Cloud hinweg On-Prem operieren oder nicht?

00:08:37: Oder bin ich auf ein Environment festgesetzt?

00:08:40: Habe ich die Möglichkeit offene Formate zu benutzen Oder bin ich irgendwie locked in an a proprietary service?

00:08:49: Habe ich überhaupt auch schon mal den Migrationsfahrt getestet, wenn es dazu kommen würde und weiß ich was ich tun müsste.

00:08:56: Und ich würde sagen dann einer der... Wenn ich jetzt zusammenfassen würde Kasten geht das darum sozusagen die Flexibility oder vielleicht auf Englisch die Reversability ist ganz wichtig und ich glaube viele Unternehmen unterschätzen das.

00:09:10: Und dann jetzt um die Frage direkt zu beantworten, ich denke nachdem man sich diese Fragen gestellt hat.

00:09:15: Carsten wie sieht denn das Unternehmen des Environment aus?

00:09:19: Wie sieht die Umgebung aus?

00:09:20: Also idealerweise hast du halt eine Umgebungen, die dir erlaubt diese Fragen eigentlich mit Ja zu beantwarten.

00:09:27: Also habe ich die Möglichkeit diese Daten woanders hinzutransferieren.

00:09:31: wenn ich müsste Morgen, falls etwas passiert und bleibt mir die Performance erhalten.

00:09:37: Und kann ich noch die gleichen Business-Resultate liefern in der gleichen Qualität auch?

00:09:42: Wenn du das beantwortest, so soll dein Environment aussehen!

00:09:47: Also du sagst, erster Schritt ist überhaupt erstmal Feststellung von Abhängigkeit.

00:09:51: Genau richtig

00:09:52: ja.

00:09:52: Wo sind wir überhaupt?

00:09:53: Was haben wir dann?

00:09:54: Das Zweite ist zumindest einen Plan zu haben und den vielleicht auch zu verproben.

00:10:00: Dann auch zu wechseln.

00:10:04: Heißt denn, dass jetzt automatisch weniger klaut?

00:10:08: Also ist das die Vorgehensweise, die dann viele wählen.

00:10:12: Nee, ich würde nicht sagen dass es heißt unbedingt weniger Cloud.

00:10:16: Man muss ja auch nochmal dann zwischen Cloud differenzieren.

00:10:18: also jetzt noch mal auf meine AWS Historie einzugehen.

00:10:22: du hast halt sage ich mal das altbekannte AWS Environment mit verschiedenen Availability Zones und verschiedenen Regions wurde dir das aussuchen kannst.

00:10:31: Und dann hat AWS halt auch die European Soren Cloud gelongt wo es eine eigenständige Business-Entity gibt, wo es ein eigenständiges Data Center gibt.

00:10:42: Wo auch nur europäische Individuen dort angestellt sind.

00:10:46: und dann gibt es da neuere Challenger würde ich sagen wie in Stackett in Deutschland, wie in ExoScale in Österreich, wie OVH Cloud.

00:10:56: Und das ist ja auch cloud.

00:10:59: also es gibt auch cloud Alternativen und deswegen heißt es nicht weniger cloud vielleicht brauchst du ne andere Form von cloud?

00:11:05: für manche Leute, die sagen vielleicht zum Beispiel die AWS Sovereign Cloud ist für mich eine Lösung.

00:11:11: Oder Leute sagen ich möchte mich gerne mit einem Provider wie Stacket, Access Scale oder OVH Cloud unterhalten.

00:11:16: also es muss nicht nur on-prem sein.

00:11:18: Ich würde das vielleicht in drei Kategorien aufteilen was sich Leute Gedanken drüber machen sollten und ich habe mir da selber Karsten so ein Ampersystem dargelegt weißt du?

00:11:28: Also ich nenne das so Green Amber and Red würde ich sagen Und ich würde sagen Ein grüner Workload für mich ist etwas, was nicht sehr sensitive Daten enthält.

00:11:41: und dann würde ich sagen Standard Cloud.

00:11:43: Okay fine!

00:11:45: Dann würde ich zu unserer Ampel.

00:11:46: gehen wir zu den Amber-Workloads oder den Orangern-Worklodes.

00:11:49: da würde ich sage okay die sind sensitiv aber managbar wenn wir starke Kontrollmechanismen anlegen.

00:11:57: Und dann würde ich sagen, es gibt für mich rote Workloads oder Red-Workloads und die werde ich sagen.

00:12:02: Die sind absolut kritisch.

00:12:04: ein Beispiel könnte sein regulierte Daten hoch sensitive Daten oder was?

00:12:08: Was mich als Firma strategisch differenziert.

00:12:11: also denkt man zum beispiel an den Manufacturing Environment.

00:12:13: in Deutschland sind wir sowieso sehr stark im Manufacturing, im Enterprise und im Mittelstand.

00:12:20: Wenn ich Datendaten habe, wo ich wirklich sicherstellen möchte.

00:12:24: Dass die in keine anderen Hände geraten.

00:12:26: Dann sollte ich mir denke schon Gedanken darüber machen Wo liegen sie wirklich?

00:12:30: Okay also ergibt viel Sinn das wäre so eine Datenklassifikation.

00:12:34: Ich denke auch ein sehr guter Startpunkt.

00:12:38: Aber dann lasst uns doch mal bisschen konkreter werden.

00:12:41: Was mache ich jetzt mit Amber und Reddaten?

00:12:45: Also was sind jetzt meine Alternativen?

00:12:48: Oder was siehst du überhaupt an möglichen Alternativen oder vielleicht auch an möglichem Faden, die Unternehmen gerade gehen?

00:12:54: Ja, absolut.

00:12:56: Also wir haben über die Workloads gesprochen und wir haben auch darüber gesprochen dass man die Dependency sozusagen die Abhängigkeiten mal darlegt und sich da drüber Gedanken macht.

00:13:04: Dann würde ich sagen der nächste Schritt den Firma gehen sollte ist ganz klar zu definieren okay wo sollten diese Workloaden leben?

00:13:14: Ist das ein Typ von Daten denn der Public Cloud leben kann?

00:13:18: Sovereign sein muss.

00:13:20: Ist es etwas, was in unserem eigenen komplett kontrollierten Environment sein muss?

00:13:24: Dann sollte man sich darüber Gedanken machen, gibt es da vielleicht eine AI Interaction?

00:13:29: Das ist ja dann auch noch mal ein ganz interessantes Thema.

00:13:32: Was passiert wenn Agenten und nicht mehr Menschen auf diese Daten drauf zugreifen?

00:13:37: und gibt's vielleicht externe ABI-Schnittstellen?

00:13:41: Ist das vielleicht was, was selfhosted sein soll mit sovereign models?

00:13:47: Und gibt es vielleicht etwas, was näher sozusagen an der Database ausgeführt werden muss als sonst?

00:13:54: Das ist gar nicht so weit die Daten reisen müssen.

00:13:57: Ich würde sagen das ist dann so der nächste Schritt den man danach nähe geben sollte als Firma.

00:14:01: und dann der vierte Schritt würde ich sagen dass man sich dann darüber Gedanken macht hat ich ja schon gesagt Was ist dann unser möglicher Exit-Fahrt?

00:14:11: Also sag ich mal, wir haben uns jetzt wo festgelegt und aber wie kann es dann weitergehen.

00:14:16: Das heißt auch nicht krass, dass sich mehr Gedanken darüber machen muss wirklich die ganze Zeit hin und her zu transferieren.

00:14:23: Es gibt nur darum was ist in meinem Exitplan oder ein Backup-Fahren?

00:14:28: Und dann würde ich sagen da müssen sich dann die Firmen Fragen wie zum Beispiel, kann ich die Daten bewegen?

00:14:34: Einfach flexibel.

00:14:36: Kann ich den Workload verändern?

00:14:38: Kann ich auch vielleicht dann Across Cloud und On-Prem operieren?

00:14:42: ist das mir möglich oder bin in einem Environment?

00:14:45: stecke ich dort fest?

00:14:47: Und nochmal hatte ich schon mal gesagt habe ich die Migrationsfahrt eigentlich getestet also nicht dass ich mehr denke ich kann das bewegen.

00:14:54: Und dann würde ich sagen, ich hatte das eine Thema schon kurz erwähnt oder das Wort.

00:14:58: Ich meine wir erwähnen es in den letzten paar Monaten die ganze Zeit.

00:15:01: Das ist EI und ich würde sagen bei EIs ist es ganz wichtig.

00:15:06: Es macht den Database layer sehr strategisch jetzt!

00:15:11: Okay,

00:15:12: das

00:15:13: mussten wir gleich nochmal genauer erklären.

00:15:15: Also AI glaube ich sollten wirklich noch mal ein bisschen genauer unter die Lupe nehmen weil natürlich jetzt mit dieser Geschichte und mit Entropic und Fable hat.

00:15:21: aus meiner Sicht ist jetzt AI Governance nochmal deutlich relevanter geworden.

00:15:25: ja neben der Data Governance?

00:15:27: Absolut!

00:15:28: Ich würde gerne trotzdem noch einmal nachbohren.

00:15:30: du hast gesagt diese gelben Dinge wo man sagt es ist zwar irgendwie sensibel aber nicht hochsensibel für mein Unternehmen mehr Kontrollen ist es dann irgendwo beherrschbar oder okay sozusagen.

00:15:46: Was ist das konkret?

00:15:47: Also was kontrolliere ich da, wie kann ich das irgendwie als Unternehmen einrichten?

00:15:51: Ja, da gibt es verschiedene technische Möglichkeiten wie man sich am besten schützen kann.

00:15:58: Ich meine die Kontrolle geht erstmal darum was gibt das eigentlich mal für Mechanismen was mir auch das Environment zur Verfügung stellt?

00:16:06: Weil ich würde sagen auch nicht jede Deployment Option gibt dir... sag ich mal die Anzahl, vielleicht sage ich mal der Security Features, die du direkt out of the box brauchst.

00:16:16: Ich gebe dir zum Beispiel mal wieder ein Vorteil, der Cloud oder was ganz spannend ist.

00:16:22: AWS hat ja über zweihundert verschiedene Features und Funktionen und ein großer Teil davon ist halt auch security related.

00:16:31: Und wir hatten ganz oft die Frage von deutschen Kunden ob im Enterprise oder Mittelstand haben sie gesagt mit der Cloud sehen wir uns nicht so ganz sicher.

00:16:39: Wir können die Security besser im Haus abbilden, weil wir haben das Team und es macht es schon seit zehn Jahren.

00:16:45: Und ein Argument war dann natürlich dass bei AWS allein in Security-Team arbeiten über tausend Leute.

00:16:51: Diese Tausende Leute inklusive der Tools, die den nutzen, die agieren auf jeden Fall deutlich schneller und effizienter wie zum Beispiel deine drei In-House-Security-Spezialisten, die vielleicht Mittelstände waren.

00:17:02: Also ich würde sagen da kommt Control dazu, dass man sich anschauen muss welche Tools stellt mir denn der Provider zur Verfügung und was ist in meiner Toolbox für die Kontrolle, die ich dort habe?

00:17:11: Also ich würde sagen, der Security-Aspekt ist ein Teil der Kontrolle.

00:17:15: Ein anderer Teil der Controlle ist die Visibilität also dass du tatsächlich auch einen Toolstack schaffst und die wirkliche Visibilitet in deine Daten generierst.

00:17:24: Was passiert denn dort überhaupt?

00:17:26: Kommt doch wieder zu dem API Access dazu!

00:17:29: Na was machen denn diese APIs jetzt meinen Entwickler weil er schnell etwas deployen wollte mal connectet hat zu meinem Environment.

00:17:35: Ich denke da muss man auch Review Mechanismen schaffen um Tools Und dann ist es wichtig, dass man denke ich als Firma sich ein Governance Framework da legt und sagt okay wie wird das kontrolliert?

00:17:46: Wann wird es kontrolliert.

00:17:47: Wer kontrolliert, wer schaut dort drauf?

00:17:51: Wo ich unterschiedliche Meinungen zu höre, ist sie zum ganzen Thema Verschlüsselung und quasi Schlüsselmanagement.

00:17:59: also manchmal wird eben angeführt naja wenn ich die Verschlüsselung kontrolliere oder die Schlüssel in der Hand habe als Unternehmen Dann habe ich eine gewisse Schutz davor, weil selbst wenn jemand auf die Daten zugreift können sie sich nicht zählen.

00:18:13: Ich höre aber auch dass das so ein bisschen am Ende gar nicht so richtig funktioniert.

00:18:17: also hast du da ne Meinung zu?

00:18:19: Das wäre ja auch im Kontrollmechanismus.

00:18:21: wie sage okay ich bleibe in der Public Crowd Aber ich hab hier einen Mechanismus der mich in gewisser Weise absichert.

00:18:29: Das ist eine ganz interessante Frage Karsten.

00:18:31: Also das habe ich schon ein paar mal erlebt und dann habe ich auch verschiedene Setups erlebt, zum Beispiel wo Daten liegen bei einem US Hyperscaler und auch die Schlüssel sind z.B.

00:18:45: beim deutschen ansässigen Cloud Provider oder die Schlüsse sind in Haus gemanagt.

00:18:51: Und vielleicht dann nochmal einen Schritt zurückzugehen im Bezug auf die verschiedenen Aspekte der Zifferinität.

00:18:59: Wir haben gesagt es geht halt auch darum um die jurisdiction und die legal implication sag ich mal.

00:19:07: natürlich technisch wissen wir alle denke ich dass man das sehr sicher so abbilden kann.

00:19:12: also wenn nicht sage ich mal tatsächlich meine encryption keys ohne kann man es schon so abbinden, dass das also extrem sicher ist.

00:19:20: Ist das hundertprozentig sicher?

00:19:22: Wir wissen genau hundert prozent gibt es nie in security aber du kannst es sehr sicher strukturieren.

00:19:27: Aber was es dir trotzdem nicht hilft ist, sag ich mal.

00:19:31: Was passiert wenn es irgendeine Executive Order gibt und dein US Cloud Environment haste einfach keinen Zugriff mehr drauf?

00:19:37: Dann hilft das ja auch nicht, wenn du die Schlüssel ownst aber nicht mehr an die Daten dran kommst.

00:19:42: Und ich denke so muss man darauf vorgehen dass man halt weiter denkt und nicht einfach nur im Hier und Jetzt Ja okay!

00:19:48: Ich I own my encryption keys und jetzt ist alles ok.

00:19:52: Aber was passiert denn tatsächlich wenn ich keinen Zuggriff mehr dort drauf habe?

00:19:57: Ja.

00:19:59: Wenn das von heute auf morgen passiert, hilft mir mein Migrationsplan aber auch nichts mehr oder?

00:20:04: Also das wäre dann aller Worst Case.

00:20:06: Wichtig genau!

00:20:07: Da würde ich sagen, da muss man sich über das Ampelsystem Gedanken machen und sagen okay wenn es jetzt wirklich einwiegt ist für mich den roten Workload auf meiner Ampel der verschiedenen Workloads diesen workload muss ich einfach unter meiner vollen Kontrolle haben inklusive Encryption und Encryption Keys, aber auch wo das tatsächlich lebt.

00:20:29: Und da kann ich nicht sagen wenn jetzt was passiert dann move Ich also dafür ist es dann zu sensitiv

00:20:35: okay?

00:20:35: Und für diese Worten workloads bedeutet dass dann entweder on premises oder lokaler Club Provider.

00:20:42: ja ich würde Ich würde dann tatsächlich sagen in den sehr In den meisten Fällen Karsten wahrscheinlich sollte man sich dann doch wirklich Gedanken machen ob wir das Tatsächlich on Prem Hostet.

00:20:53: Okay

00:20:54: Warum?

00:20:55: Also warum wäre das deine preferierte Kursion.

00:20:57: Ja, also es kommt halt darauf an.

00:20:58: wenn ich mir halt schaue wie dann großer Vorteil der Hyperscaler ist sage ich mal die Distribution und die verschiedenen Availability Sons and Regions.

00:21:08: Und ich bin mir selber nicht so ganz sicher Karsten ob diese sei ich mal Resilienz und diese Distribution aktuell schon unsere European Own oder unserer europäischen Cloud Provider komplett abbilden können.

00:21:23: Das wäre vielleicht meine einzige Frage, aber ich möchte da auch niemand direkt, sage ich mal jetzt beschreiben oder kritisieren oder hinterfragen.

00:21:32: Aber sag' ich mal diese extreme Hochverfügbarkeit.

00:21:37: Ich glaube, da muss noch etwas Arbeit in Europa getan werden!

00:21:42: Aber würdest du dann sagen, dass die Unternehmen on-trap'n das besser abdecken können?

00:21:45: oder hängt es am Ende von der Unternehmensgröße und den bestehenden Data Center Infrastrukturen

00:21:50: ab?

00:21:50: Ja ja, Karsten.

00:21:51: Auf jeden Fall, da sprichst du einen ganz wichtigen Punkt an.

00:21:53: Natürlich in der Firma kann das nur tun ab einer gewissen Größe.

00:21:57: Nur dann hat die Firma die Ressourcen ob das jetzt finanziell ist oder personell.

00:22:02: Es gibt halt Firmen, die müssen an einer gewissen Größe einfach mit Partnern zusammenarbeiten.

00:22:07: Okay

00:22:07: super!

00:22:08: Ich glaube das fand ich schon mal sehr aufschlussreich.

00:22:11: und jetzt erst nochmal auf KI schauen.

00:22:13: Das ist natürlich jetzt das neue große Thema und auch da gibt es glaube ich ganz verschiedene Aspekte.

00:22:21: vielleicht erstmal von dir was?

00:22:23: Was ist jetzt im KI-Bereich?

00:22:25: Was sind die besonderen Dinge auf die man jetzt vielleicht zusätzlich oder besonders achten sollte?

00:22:30: Also das ist wirklich so ein spannendes Thema, weil KI ganz viele neue Fragen hervorruft.

00:22:42: Da sprechen wir wieder über Daten und ich glaube jeder hat die Stories gehört wo Mitarbeiter einfach confidential PDFs, Exo-Files oder WordDocs in Tools hochladen, die halt in der Cloud leben und sich dort nicht unbedingt die AGBs durchlesen oder Gedanken darüber machen was mit den Daten passiert.

00:22:57: Und dann Abfragen stellen auf diese Dokumente Und das wirft natürlich ganz viele Fragen hervor.

00:23:04: Erst mal also, wo leben meine Daten?

00:23:08: Wie gebe ich den Zugriff?

00:23:09: Wenn ich den Zugriff gegeben habe – was passiert dann mit den Daten?

00:23:13: und dann auch, wo gehen die Daten dann möglicherweise noch hin nachdem ich diese Daten verschiedenen Providern zur Verfügung gestellt habe.

00:23:20: Und ich denke, eine ganz wichtige Frage, die man sich stellen muss als Unternehmen ist.

00:23:25: Kann nicht KI eigentlich benutzen ohne Kontrolle über die Daten zu verlieren oder den Kontext der Daten, denen ich gebe?

00:23:32: Oder die Zugriffsrechte oder den Output?

00:23:35: und ich denke das ist wo die Auswahl der Datenplattform nochmal jetzt wichtiger wird durch die Anwendung der KI Und weil es geht nicht nur einfach nur um den Storage und nur um die Query, sondern das ist wirklich, sag ich mal ein Kontrollpunkt der in verschiedene Richtungen gehen kann.

00:23:56: Absolut!

00:23:56: Okay also das ist glaube ich sehr eingängig ja?

00:23:59: Ich muss mich da tatsächlich bei Kalib wie immer erstmal sehr viel Gedanken machen über die Daten, wie natürlich die Basis sind aber als werden auch neue Dinge erzeugt.

00:24:08: Ja, ich sehe

00:24:08: gerade eine Diskussion stärker aufkommen oder Unternehmen, die sagen mit den wachsenden Kosten der GenAI-Provider brechen uns teilweise schon die Business Cases für unsere AI Anwendungen weg.

00:24:26: Und deshalb denken wir wirklich konkret über nach Open

00:24:29: Source oder Open

00:24:30: Weight Modelle on Prime zu installieren weil dann auch volle Kontrolle über die Kosten haben.

00:24:36: also mein Eindruck ist gerade dass sovereignty eine Diskussion ist aber kosten noch viel stärker

00:24:41: Und am

00:24:42: Ende hat dann vielleicht sogar beide Vorteile, also bessere Kostenkontrolle.

00:24:46: Wenn es geht auch weniger kosten natürlich aber dann auch sovereignty das zu kombinieren.

00:24:50: ist das ein Trend den du aufwarnennst?

00:24:52: Ja, absolut kraft.

00:24:54: Ich würde sagen das ist total top of mind.

00:24:57: und natürlich ist es auch was wo wir uns dann als firma positionieren weil extra soll natürlich in verschiedensten environments läuft von on-on-prem bis hybrid zu fully managed saas option.

00:25:11: und natürlich sagen die leuten hey ihr habt vielleicht ein kostenproblem Da können wir euch helfen, lauft ihr on-prem und lasst eure Agents näher an der Data laufen als bisher.

00:25:21: Und ich habe das ja auch selber im Day to day auch erlebt.

00:25:25: Natürlich bei uns in der Firma setzen wir auch KI ein.

00:25:28: Wir haben ganz verschiedene Tools die wir einsetzen basierend auf dem Task oder Aufgabe des Mitarbeiters.

00:25:38: im Sales-Bereich bist, dann benutzt du ganz einfach einen Co-Pilot um dir zu helfen deine E-Mail an den Kunden zu optimieren.

00:25:45: Wenn du in Marketing bist zum Beispiel und brauchst ein One-Pager der customisiert ist für jemand, dann benutzte dort die KI.

00:25:52: Und natürlich unsere Developer benutzen auch Tools wie Codecs usw.

00:25:56: zur Unterstützung.

00:25:58: Das ist ganz interessant.

00:25:59: wir haben unseren KI Rollout intern sehr stark angefangen voranzutreiben Vor sechs bis neun Monaten Und unser erstes Ziel war erstmal so viele Leute wie möglich zu den Möglichkeiten der KI zu exposen und dann hat man doch aber ganz, ganz schnell gesehen nicht dass die Kosten komplett aus dem Ruder laufen.

00:26:19: Aber das die Kosten doch in manchen Anwendungsfällen deutlich höher sind als man gedacht hat.

00:26:24: ja also wenn ich zum Beispiel Wirklich ein Prototyp für einen Kunden in Hilfe von KI erstellen, weil das mir einfach schneller den Code gibt wie wenn ich dem selbst schreibe.

00:26:36: Aber dann die Kosten dieses Prototyps fünf bis zehn mal so hoch sind wie vorher.

00:26:40: Dann fängt man sich natürlich Fragen anzustellen ob es tatsächlich Sinn macht oder ganz einfach.

00:26:46: Wenn ich vorher für den Vertrieb auf Power BI Dashboard schaue dass einfach mal auf meine Datenbank zugreift und einmal am Tag ein Refresh hat, was eigentlich ausreichend ist.

00:26:57: Und jetzt aber eine Abfragestelle gegenüber das CRM, gegenüber dem Tool wie Confluence... ...und dann plötzlich die Abfrage zwanzig Minuten läuft und an mehrere tausend Tokens verbraucht hat?

00:27:10: Dann muss man sich natürlich fragen, ist es wirklich effizient!

00:27:12: Und so haben wir auch selbst angefangen also einige Dinge bei uns tatsächlich on-prem in unserem eigenen Datencenter abzubilden, das auf extra laufen zu lassen.

00:27:22: Verschiedene Open Source Modelle anzubinden um einfach kosteneffizienter zu sein.

00:27:28: und genau das sehe ich auch bei verschiedenen Kunden oder auch in meinem Netzwerk.

00:27:34: Ich gebe dir jetzt mal ein anderes Beispiel.

00:27:36: Ich habe einen Bekannten von mir erlebt.

00:27:38: in den USA arbeitet sehr stark mit Healthcare Providern zusammen wo er verschiedene KI-Projekte vorantreibt Und ein bestimmter Healthcare-Provider, da ging es um die Analyse von Dokumenten.

00:27:52: Hat das angefangen dieses Projekt in der Cloud abzubildeten und war von den Kosten also durch seinen Nazi-Schockiert-Kasten würde ich das Wording verwenden.

00:28:04: Mein Bekannter agiert dort als Advisor und wir haben dann einen On-Prem-Environment aufgebaut wo die Kosten tatsächlich ein zwanzigste!

00:28:13: Davon waren.

00:28:14: in diesem environment natürlich hast du den hardware invest aus erstes und muss das environment aufbauen, aber dieser riesige faktor hat bei dem kunden tatsächlich einen wahnsinnigen aha Moment generiert.

00:28:28: Und ich glaube diesen aha moment Den werden wir noch viel, viel öfter sehen in den nächsten paar Monaten bei sehr, sehr vielen Unternehmen die ganz schnell zum Beispiel einfach sich gedacht haben.

00:28:41: Wir haben jetzt hier einen sehr großen Provider in der Cloud und er macht es für uns ganz einfach mit KI zu experimentieren.

00:28:51: Jetzt haben wir angefangen zu experimentierend und oh mein Gott wieviel Geld kostet das denn tatsächlich?

00:28:59: Der Drang an den Anwendungsfall auszuführen, das sind ja ganz tolle Dinge die man mit der KI tun kann.

00:29:04: Ja da geht nicht weg sondern aber jetzt kommen dann die Erkenntnis okay wie setzt sich das effizienter um für uns?

00:29:11: Absolut.

00:29:11: also dieses ganze Thema AI Governance ist gerade erstmal stehen und es sind genau die Knackpunkte erst mal ob Transparenz über Kosten zu haben.

00:29:21: Und dann gibt es jetzt so die ersten Maßnahmen, vor kurzem hat ja hier irgendwie ist das bekannt geworden von Tesla.

00:29:25: Die haben jetzt ihren Mitarbeitern ein Budget gegeben ne?

00:29:28: Die dürfen als zwei Hundert Dollar pro Woche ausgeben an Tokens.

00:29:33: aber das ist ja nur der erste Schritt.

00:29:35: also das heißt wir brauchen auf jeden Fall eine Awareness und auch eine Art Ausbildung überhaupt zu verstehen was ich da tue, was es für Kosten verursachen, was sich für Alternativen hat zum Beispiel dann eben auf On-Tram Modelle.

00:29:47: Ganz kurze Einschätzung von dir, diese Open Source Modelle.

00:29:51: Wie viel hängen die sozusagen hinterher?

00:29:54: Hinter den Frontiermodellen in Sinne von Leistungsfähigkeit?

00:29:57: Einzame deine Einschätze!

00:30:00: Ja, das ist super interessant.

00:30:02: Ich habe eine andere Bekannte von mir casten die es Partner bei einem Avenger Capital Fund der sehr stark in KI investiert schon seit mehreren Jahren bevor sage ich mal KI überhaupt jetzt so ein wahnsinniger Hype war wie jetzt aktuell.

00:30:16: Die hat ein ganz interessantes Paper selber geschrieben darüber über den Performance Vergleich und auch den Kostvergleich.

00:30:22: Und was das eigentlich aufzeigt ist dass die absoluten high end Modelle Begeben wir, sag ich mal einen gewissen Edge.

00:30:31: Aber der Edge ist sozusagen für ganz viele Anwendungsfälle nicht unbedingt das mehr Investment wert.

00:30:37: Das ist so zu sagen wie wenn du und Ich wären jetzt ein guter Läufer?

00:30:43: Und dann gibt es natürlich Weltrekordler die Welt-Rekordler, die rennen vielleicht fünf Sekunden mehr wahrscheinlich etwas mehr.

00:30:49: Vielleicht simplifiziertes Kasten aber um den Punkt zu machen, die Rennen etwas schneller als Du und Ich als Hobbyläufer, aber dafür müssen die jeden Tag trainieren und viel mehr Aufwand reinstecken.

00:31:00: Und das Ähnliches siehst du auch aus diesem Paper.

00:31:03: man sieht okay dass kostet deutlich mehr.

00:31:06: Das würde ich dann equivalent setzt mit dem Aufwand in der Läufer rein steckt.

00:31:10: Aber das Resultat ist wirklich nur ein bisschen bisschen besser differenziert weil es gibt sehr viele sehr gute Open Source Modelle und auch zum Beispiel intern.

00:31:21: Ich gebe dir ein Anwendungsfall, was für uns natürlich wichtig ist, es unsere Kunden holistisch zu verstehen.

00:31:26: Wir nennen das Customer Three Sixty und wir haben dort erstmal experimentiert mit, sage ich mal verschiedenen Tools die online leben in der Cloud mit einigen Leading Models, die wir dann angedockt haben an unseren internen Schnittstellen Und dann haben wir festgestellt, weil dort okay das funktioniert sehr gut aber es kostet sehr viel um einen holistischen Viewer für unsere Kunden zu bekommen.

00:31:53: Wir möchten natürlich Sachen wissen, wie so wo haben wir ein Erweiterungspotenzial?

00:31:57: Was benutzt der Kunde?

00:31:58: Wir möchten unsere Vertriebler informieren wann ist denn eine Renewal da?

00:32:02: und möchten alles automatisiert.

00:32:04: Dann haben wir uns auch Open Source Models angeschaut und wir haben dann ein Open Source Model auf unserem On-Prem-Environment, auf Exosol laufen lassen und dort die verschiedenen Datenquellen angebunden.

00:32:18: Also exosol agiert da so wie der Data Layer und der Agentic Data Layer sozusagen weil wir Agenten drauflaufen lassen Und auch bei uns war dann der Kostenfaktor so ungefähr würde ich sagen ein Fünftel bis ein Achtel im Westfall.

00:32:31: Wow also wieder deutlich.

00:32:33: Welche Open Source Modus?

00:32:35: Siehst du gerade als besonders spannend an?

00:32:37: oder was siehst auch bei euren Kunden, welche werden da öfter eingesetzt.

00:32:40: Gibt es da überhaupt Trends?

00:32:41: Also einiges setzen auf die amerikanischen Bilaner oder ähnliche... Ich fand beim Data Festival kürzlich war das natürlich auch ein großes Diskussionsthema und mein Eindruck war dass auch viele deutsche Unternehmen relativ

00:32:54: offen

00:32:54: mit den chinesischen Modellen umgehen.

00:32:56: also sagen da haben wir eigentlich gar kein großes Problem mit ja alla deepsea quen oder andere.

00:33:01: wie siehst du das?

00:33:02: oder was nutzt ihr?

00:33:03: vielleicht

00:33:04: gleich direkt zu deinem letzten Punkt.

00:33:06: Also ich sehe das auch sehr, sehr viel.

00:33:09: die Anwendung von Gwen oder DeepSieg.

00:33:13: also ich sehe es auch was ich ganz spannend finde.

00:33:16: Ich war auch letztens auf einem internen Event von einem unserer Kundenkasten und da wurde dann tatsächlich gezeigt was sozusagen die Verbreitung der verschiedenen Models ist und war sehr, Erwehrkasten.

00:33:34: Das Aktuell hatten die so eine Map mit der Anwendung, wo werden welche Modelle weltweit eingesetzt?

00:33:39: und das war sozusagen wirklich eine zweigeteilte Welt zwischen der westlichen Welt und der östlichen Welt.

00:33:44: Und wirklich dass die chinesischen Modelle also wirklich würde ich sagen fast sechzig Prozent der Weltbevölkerung dominieren und den amerikanischen vierzig nach.

00:33:54: und leider das halt.

00:33:55: unser bestes europäisches Modell glaube ich ist Mistral war sehr weit abgeschlagen.

00:34:04: Also nicht in den Top Ten, ich kann dir gar nicht ganz genau mal sagen wo dann Mistral stand.

00:34:09: vielleicht in den top twenty kam das dann erst vor allem möglichen anderen Modellen und so würde ich sagen spiegelt sich auch die Anwendung wieder von dem was ich höre im Markt.

00:34:21: also ich würde sagen es gibt erstaunlich viele Leute Ganz einfach auf die chinesischen Modelle draufzugreifen, ohne viel darüber nachzudenken.

00:34:31: Und dann würde ich sagen der andere Teil vom Markt benutzt sehr stark die amerikanische Modelle und ich höre ganz wenig Carsten eigentlich Obwohl es ja Modelle gibt, die doch recht gut sind so wie Mistral wieder zum Beispiel Ich habe das wirklich in den letzten sechs Monaten mit keinem Kunden gesprochen oder jemanden an Netzwechtern aktiv einsetzt leider

00:34:51: Ja.

00:34:51: vielleicht Müssen wir da noch mal ein bisschen Werbung für machen, ich weiß es nicht.

00:34:55: Aber das... Ich glaube schon dass wir hier in Europa natürlich auch ein bisschen gucken sollten, dass wir die lokalen Anbieter und die lokalen Initiativen da auch möglichst unterstützen.

00:35:05: also ich habe den Eindruck, dass es gar nicht unbedingt eine aktive Ablehnung ist nach dem Motto Handel getestet wollen wir nicht sondern ich glaube es ist häufig mehr so Zugänglichkeit was sind sie?

00:35:18: Typischen Dinge, die man nutzt was ist einfach.

00:35:20: Was habe ich bei anderen gehört?

00:35:21: Das ist so eher mein Eindruck dass das eher da kommt.

00:35:24: also deshalb meine ich das ernst.

00:35:26: das ist vielleicht sogar ein bisschen mehr ein marketing Problem als echtes probieren der reistungsfähigkeit.

00:35:31: kast durchstimmen wir absolut das ist ein marketing und einen Ein Awareness-Problem, was ist denn eigentlich verfügbar?

00:35:38: Wir als Exersoul kämpfen damit selbst oft.

00:35:40: Also das heißt dann... Ich hatte schon Gespräche mit Leuten, wenn wir auf eine Messe gehen und da hält sich und die wissen nicht dass ich zum Beispiel bei Exersall bin, dann heißt es halt ja in Europa, wir haben gar keine Datenbankalternative für Agentec AI.

00:35:53: Es gibt ja gar keine Provider, die sind doch alle, alle Databaseprovider kommen eigentlich aus den USA!

00:35:58: Und dann sage ich, ah, haben sie schon mal voll exersoll gehört

00:36:01: ne?!

00:36:01: Wir sind headquartered in Nürnberg Und wir machen schon seit zwanzig Jahren Datenbank und absolut, ne?

00:36:07: Wir sind halt eine der sehr wenigen Alternativen.

00:36:10: Vielleicht hat man auch SAP HANA, wo man sagen könnte, okay, euer deutsche europäische Datenbank... ...und dann gibt's Exasol!

00:36:17: Dann wird es halt schon sehr, sehr dünn.

00:36:18: Das Problem ist dann eher für uns dass die Leute uns nicht kennen.

00:36:22: Also das ist ein Erwernesproblem und nicht das Problem des Vorhandenseins im Markt.

00:36:27: Absolut ja also insofern Dann hat vielleicht dieser Podcast auch dazu dabei geholfen, dass es ein bisschen mehr Awareness gibt für europäische Alternativen in allen Bereichen von der Datenbank bis hin zu Modellen.

00:36:43: Unsere Zeit, das wäre da umirrig!

00:36:44: Lass uns doch vielleicht zum Abschluss nochmal so eine Art Summary machen.

00:36:48: Also ich würde sagen unsere Zuhörerkasten sollten sich drei ganz wichtige Fragen stellen.

00:36:57: Wissen wir... welche Daten für unser Business wie wichtig sind?

00:37:03: Wie critical sind die verschiedenen Daten, möchte ich nochmal auf meine Ampel zurückkommen.

00:37:08: Green Amber Red und was geht es denn hier bei uns?

00:37:13: Die zweite Frage, die sich jeder stellen sollte ist verstehen wir wirklich unsere richtigen Abhängigkeiten über die Cloud hinweg, die Daten hinweg ,die KI hinweg Operations und dann halt auch die Jurisdiction.

00:37:26: Verstehen wir das eigentlich überhaupt?

00:37:28: Haben wir das wirklich

00:37:28: analysiert?".

00:37:30: Und dann, die dritte Frage ist... Dann haben wir viel darüber gesprochen.

00:37:34: Wenn ich wollte, könnte ich die Richtung ändern?

00:37:37: Könnte ich woanders hingehen?

00:37:39: Habe ich diese Flexibilität?

00:37:40: Also ich denke, diese drei Fragen sind ganz wichtig, dass man sie sich stellt!

00:37:45: Ich würde sagen wenn die Antwort zu einer dieser Fragen nein ist Dann hat man tatsächlich ein Sovereignty Issue, dann ist man nicht in den Bereich gegangen dass man operativ ist und hat sich selber diese Kontrollen Flexibilität geschaffen.

00:38:03: Und dann sollte man sich wirklich tiefer gehen Gedanken darüber machen als gesamte Firma auch kasten.

00:38:08: ich denke das ist nicht an der Job von Head of IT oder vom Head of Data oder Direct-of-Business Intelligence.

00:38:16: Sondern ich denke wirklich, man muss dann Awareness generieren auf C Level Ebene und sagen das sind ganz wichtige Aspekte heutzutage.

00:38:24: wir müssen uns gemeinsam darüber Gedanken machen.

00:38:27: Absolut!

00:38:28: Also sehr schöne Zusammenfassung Erik.

00:38:31: also wenn ich so einem Wort sagen würde Souveränität bedeutet Handlungsfähigkeit und die Kontrolle die ich letztendlich brauche und gewinnen muss hilft mir letztendling auch weiter innovativ zu sein ... und am Ende geht es darum, die Risiken zu managen.

00:38:46: Ich

00:38:47: habe ja quasi auf der einen Seite Risiken... ... wenn ich meine Dinge on-prem betreibe, dann habe ich aber wieder neue.

00:38:54: Also ich muss eigentlich erstmal Transparenz schaffen.

00:38:57: Was ist so?

00:38:57: Was hab' ich?

00:38:58: Ist wirklich mal eine Situation!

00:38:59: Und dann bewerte ich die verschiedenen Risiken, die ich habe um dann zu einer bestmöglichen Lösung für mein Unternehmen zu

00:39:05: kommen.".

00:39:05: Vielen Dank, Erik.

00:39:06: Ich fand das so ein sehr interessanter Einblick.

00:39:08: Dann auch aus deiner Erfahrung raus.

00:39:10: Fand ich super spannend.

00:39:11: Ja, ABS und jetzt wieder sozusagen zurück hier in Deutschland bei den lokalen Anbietern.

00:39:16: Fandel ich sehr, sehr interessant.

00:39:18: Herzlichen Dank!

00:39:18: Und ich kann nur sagen bis bald.

00:39:20: Ja?

00:39:21: Ich danke dir Karsten für die Zeit.

00:39:22: Ich hoffe es hat Mehrwert für deine Zuhörer um mir das Gespräch auch sehr viel Spaß gemacht.