Audio file

urn_ard_publication_1c21ee8ee3412f20-audiothek.mp3

Transcript
Speaker

Die rd.

Speaker 1

Der KI Podcast mit Gregor Schmalzried und Fritz Espener.

Speaker 3

Hi Fritz Gregor, Grüß dich, ich hab direkt ein Experiment dabei für den
Anfang dieser Folge und zwar ich habe jetzt mal die chgbt App und wir
machen die jetzt mal auf und ich rede mal kurz mit der Hi sag mal wer ist
eigentlich der beste Host in meinem?

Speaker 2

Sehr gut.

Speaker 3

Cast.

Speaker 4

Guten Morgen, Gregor. Da fragst du natürlich jemanden, der nicht wirklich

eine objektive Antwort geben kann. Jeder von euch dreien, du Marie und
Fritz, bringt doch euren ganz eigenen Stil und Charme in der KI Podcast
ein.

Speaker 2

Der Cringe ging schon so ein bisschen los.

Speaker 3

Chucky Bitti liebt den KI Podcast und das ist der eigentliche Punkt und wir
haben viel Scharme der eigentliche.

Speaker 2

Ja, wir haben alle viel Charme.

Speaker 3

Punkt ist Cha GPT weiß was der KI Podcast ist, ohne dass ich es eben
explizit gesagt hab. Ich hab einfach nur gesagt mein Podcast und die KI
hat sofort unsere Namen ergänzt und das ist deswegen ganz spannend,
weil der Grund warum das funktioniert ist etwas das nennt sich Memory
also Chat GPT hat ein Feature das haben die vor so ein paar Monaten
langsam allmählich ausgerollt, dass sich die KI bestimmte Dinge merkt
über ihre Nutzer, da kriegt man dann manchmal so einen kleinen Haken,
da steht drauf Memory Update und das kann dann sowas sein wie der
Name oder der Beruf der Person.

Speaker 2

Genau also.

Speaker 3

Irgendwas anderes. Man kann dann auch noch mal rein und das löschen.
Aber was daran so interessant ist, ist okay wir erleben hier so den ersten
Schritt zu so einer Art persönlichem Chatbot, also das mindchat GPT auf
einmal nicht mehr das Chat GPT von dir ist oder von einem unserer Hörer,
sondern etwas, was sich explizit auf mich bezieht.

Speaker 2

Das ist ja auch von Anfang an so. Eines der großen Versprechen gewesen.
In der aktuellen KI Revolution, dieses so irgendwann hast du nicht mehr
den generischen Chatbot, der auch oft falsch liegt, sondern du hast
wirklich den persönlichen Assistenten, der dich fast besser kennt als du
dich selber kennst und. Deswegen. Viel hilfreicher ist also auch bei Google
war da oft die Rede davon, wenn dann irgendwie Germany Night Zugriff
hat auf alle E-Mail. Und so. Wir bewegen uns da gerade hin, aber weil wir
da noch nicht sind, reden wir heute darüber, wie wir schneller dahin
kommen können.

Speaker 3

Und zwar nicht mit einem großen, allumfassenden Chatbot, der sich
absolut jede Sache über uns merkt, sondern der sich spezifische Sachen
merkt. Wir haben eine E-Mail bekommen von einem unserer Hörer,
Christian, der hat sich gewünscht, bitte behandelt doch mal das Thema KI
und Automatisierung im täglichen Gebrauch, weil er meint, er hat das
Problem, dass er oft Aufgaben. Immer mal wieder machen möchte mit
dem Chatbot und dann muss er immer wieder copy Paste machen. Er
muss immer wieder Daten neu einfügen in den Chatbot, die esse ich doch
eigentlich merken könnte und wenn man bestimmte Workflows hat,
bestimmte Aufgaben, die man immer wieder der KI übergeben möchte,
dann lohnt es sich einen eigenen Chatbot zu bauen, so eine Art
persönlichen Assistenten, der nicht alles über einen Weiß, der nicht alles
für einen Macht, aber vielleicht eine ganz bestimmte Sache.

Speaker 2

Ein Expertensystem für eine bestimmte Aufgabe? Darüber reden wir

heute. Wir wollen uns heute nämlich anschauen, wie genau baut man
denn eigentlich am besten seinen eigenen KI Assistenten? Und was
braucht man dafür alles? Und dann am Ende, wenn man den gebaut hat,
er, welche Aufgaben kann man damit erledigen und welche vielleicht auch
nicht, das ist der KI Podcast und ich bin Fritz Espenlaub und ich bin Gregor
Schmalzried.

Speaker

Was?

Speaker 3

Jetzt können wir natürlich folgendes tun, wenn wir einen eigenen Chatbot
aufsetzen wollen. Wir können. Können uns erstmal die Model Waits von
Lama 3.1 runterladen, dann können wir mit einer kleinen Lernrate fein
tunen, dann einen Vector Index erstellen, damit wir ein Retrieval
Augmented Generation Framework einbauen können, das dann mit dem
generativen Modell verbinden und jetzt brauchen wir noch ein paar
leistungsstarke GPS und dann läuft die Inferenz also.

Speaker 2

Easy money. Also ich bin der Meinung, jeder Mensch in Deutschland, der
regelmäßig den KI Podcast hört, sollte sowas schon dreimal gemacht
haben.

Speaker 3

Sag das noch mal dreimal ganz schnell was. Gerade gesagt hab. Ja, also
nein. Darum geht es natürlich nicht. Also das, was ich gerade gesagt
habe, das ist etwas, was man machen kann und Kompliment an die Hörer,
die das alles verstanden. Haben aber Ich denke bei so einem eigenen
chatbot ist es ein bisschen wie bei einem eigenen Betriebssystem wir alle
kennen diese Leute die schwören darauf dass sie ihr eigenes Linux und
ihre eigenen Server aufsetzen aber Es gibt eben auch ne Menge Leute die
wollen einfach nur dass es so n bisschen funktioniert dass sie einfach was
damit anfangen können und um so etwas soll es auch bei uns gehen also
wir können jetzt hier auch nicht technisch super tief einsteigen aber das
muss man heutzutage gar nicht mehr weil diese Technologie ist weit
genug dass wir mit bordmitteln echt weit kommen.

Speaker 2

Können. Genau heute geht es jetzt weniger darum, wirklich eine

komplette. Eigene und sehr teure Server Infrastruktur aufzubauen. Es gibt
Fälle wo das vielleicht Sinn macht, also wenn ich jetzt zum Beispiel. Ein
Unternehmen bin und ich will wirklich komplette Kontrolle haben über den
Chatbot, den ich nutze, dann kann das Sinn machen. Es gibt aktuelle
Meldungen, in wenigen Tagen wird Openay wohl für Unternehmenskunden
GPT 3.5 Turbo abschalten, das ist dieses Modell ne, weil dann galt das so
ein bisschen als bestes Modell auf dem Markt, das ist schon eine Weile
her, dass es überholt worden und es gibt gerade so einen Screenshot rum
von der E-Mail, die ob May an die. Kunden geschrieben hat an
Unternehmenskunden, dass sie halt bitte auf GPT 4 umsteigen sollen und
für die meisten das kein Problem sein. Wenn du jetzt aber irgendwelche
speziellen Anforderungen hast, die genau mit diesem Modell nur
funktionieren, dann, ja dann bist du vielleicht ein bisschen gelackmeiert,
wenn du jetzt gezwungen wirst das Modell zu wechseln. Wir reden heute
aber gar nicht über diese selbst gehosteten Lösungen, sondern über
spezialisierte KI Bots für den eigenen Gebrauch.

Speaker 3

Da gibt es grob gesagt 3 größere Anbieter. Das sind auch keine neuen
Namen, das sind die Namen, die immer mal wieder fallen hier in diesem
Podcast. Es ist einmal Chat GPT, es ist einmal Claude von anthropic, und
es ist Germany von Google, die haben alle die Möglichkeit, dass man
sowas wie einen eigenen Bot im Bot aufsetzen kann, der sich an
bestimmte Regeln hält und das, worüber wir heute sprechen, das
funktioniert auch mit diesen 3 gängigen Chatbots, es funktioniert bei allen
wirklich gut, nur in der pro Version, das kann man vielleicht auch noch
dazu sagen. Wiki kann man das gratis testen, aber da gerät man sehr
schnell an so ne. Nutzungslimit das bedeutet, wenn man echt Lust hat,
seine eigene Automatisierung so ein bisschen aufzusetzen, dann kommt
man langfristig wahrscheinlich nicht drumhin dafür n bisschen Geld
auszugeben, aber da könnten natürlich jetzt nichts Konkretes empfehlen.
Unsere Tipps gelten für alle diese Chatbots, das sind einmalbei.ch PT und
das nervt mich immer noch, dass die so heißen, die heißen GP TS.

Speaker 1

Ja.

Speaker 2
Das ist so confusing.

Speaker 3

Pt ist einerseits das Modell, aber es ist in dem Fall eben auch so. N
Selbstgebauter Chatbot in Chat GPT bei Claude gibt es was das heißt
Cloud Projects und bei Germany gibt es die sogenannten Gems, also ja die
Namensfindung.

Speaker 2

James klingt so n bisschen, wieso ne Währung aus so einem online

Computerspiel? Ja, also einer Namensfindung hätten sie vielleicht auch
Germany noch beteiligen können, haben Sie nicht gemacht, jetzt heißt
das Ding Gems. Wie genau diese 3 Angebote funktionieren, das erklären
wir heute in der Folge. Was man damit machen kann ist, man kann sich
das so vorstellen, dass man einfach einen kleinen Arbeitsbereich
innerhalb von seinem Chatbot. Schafft, indem man sich aufhält für ein
längerfristiges Projekt. Deswegen heißt auch Cloud Projects Cloud Projects
und dort dann auch für den Chatbot es leichter wird, einem zu helfen, weil
er versteht und weil er besser weiß, worum es eigentlich geht. Also.
Beispiel, wo ich das gerade nutze. Vielleicht erinnern sich manche Leute
noch an ich hab mal erwähnt, dass ich versuche mit KI portugiesisch zu
lernen und ich hab da relativ bald festgestellt, dass es total umständlich
da immer nen neuen Chat aufzumachen und immer wieder zu sagen so
hey, ich will Portugiesisch lernen und kannst du mir bitte helfen nach
diesen Gesichtspunkten und es soll möglichst schnell gehen, sondern.
Dann, ich bin da jetzt drin in dem Cloud Projekt. Ich hab am Anfang der KI
einfach einmal gesagt worum es geht. Ich hab ihr so n paar grundsätzliche
Anweisungen gegeben und der Portugiesisch Unterricht wird immer in
diesem Cloud Projekt stattfinden und in nem Custom GPT und das hat für
mich die Vorteile es spart super viel Zeit ich muss nicht jedes Mal wieder
aufs Neue diese Anweisungen geben, viele wiederkehrende Aufgaben die
so auftauchen können auch schnell automatisiert werden, das gilt
natürlich auch für viele andere Fälle die wir heute besprechen und. Das
Modell spezialisiert sich so ein bisschen besser auf das, was ich eigentlich
möchte und kann auch mehr den Kontext verstehen, was ich von ihm will.

Speaker 3

All das kann man übrigens, wenn man möchte. Auch ich sag mal händisch
nachbauen. Also man könnte auch einfach n sehr langes Word Dokument
aufbauen, wo das ganze Material was der Bot wissen soll auch drin steht
und dann kopiert man das jedes Mal rein, ist vielleicht auch n erster
Schritt so n bisschen. Also das ist vielleicht auch so, wenn man nicht
genau weiß, ist das jetzt was was ich öfter brauche oder ist das was wo
ein eigener Chatbot überhaupt Sinn macht, kann man das erst mal so
testen, ist ein bisschen umständlicher technisch aber auf jeden Fall ein
möglicher erster Schritt.

Speaker 2

Face, Trump, Windows.

Speaker 3

So jetzt, was brauchen wir denn jetzt, um unseren Chatbot zu bauen? Es

gibt 2 große Zutaten, was ist die?

Speaker

Ja.

Speaker 2

Erste Fritz. Wie immer, wenn wir mit KI zu tun haben. Kontext das. Wie
man so schön sagt, also wir brauchen Kontext, wir müssen der KI. Ein
Verständnis dafür vermitteln, worum es eigentlich geht und dieser Kontext
also. Mal Dokumente unterlagen, die wir hochladen. Die machen aus
einem neutralen Chatbot einen spezialisierten Assistenten für genau den
Zweck, für den wir ihn benutzen wollen. So ein bisschen das, was mit der
Memory Funktion auch passiert, bloß wir schieben das an. Also in all
diesen Funktionen, die wir genannt haben, da kann man am Anfang
erstmal ja einfach PDF Dokumente hochladen, e Books hochladen,
einzelne andere Files hochladen, da hatten rein, wenn man mit
Datenschutz. Arbeitet relativ viel sogar.

Speaker 3

Man kann sich das wirklich vorstellen wie ne Art Bibliothek. Also man gibt
dem Chatbot quasi eine Bibliothek an Material zur Verfügung und dann
kann der Chatbot diese Bibliothek durchsuchen. Es gibt n Begriff dafür,
der heißt semantische Suche und das ist eigentlich so die Geheimzutat,
die Chat, GPT und Claude und Germany so wahnsinnig stark macht im
Vergleich zu anderer Software, weil wenn ich sagen wir mal in einem sehr
langen Dokument weiß irgendwo. Wo ist ein Wein drin? Dann kann ich
Steuerung F Wein machen und wenn da aber nur steht Grauburgunder,
dann find ich den nicht in Chat GPT ist das möglich, da kann ich sagen sag
mir mal alle weine die in diesem Dokument drin sind und auch wenn das
Dokument extrem lang ist bekomme ich eine ausführliche Liste von allen
Weinen mit allen Begriffen die sich darin befinden und diese semantische
Situation. Suche die ist auch total logisch, dass man sowas braucht. Also
man kann auch sagen Hey hier ist ne Speisekarte aus dem Restaurant wo
ich gerade bin. Sag mir mal welcher dieser Weine geht denn gut zu wild
mit Preißelbeeren und kostet nicht mehr als 50€ pro Flasche und ich
bekomme wirklich Empfehlungen ich kann jetzt als nicht Weinkenner
schlecht einschätzen wie gut die sind, aber ich hab's dann jemandem
gezeigt und der meinte ja das passt auf jeden Fall, Spätburgunder würde
ich machen dazu das ist diese semantische Suche und die ist natürlich
echt in dem Moment wahnsinnig. Nicht toll, die kann aber auch nicht mit
einer unbegrenzt großen Bibliothek umgehen. Also je größer die Bibliothek
wird, je mehr Text man einfügt, desto unsauberer wird es, so ein bisschen
die Suche, das kann auch sein, dass dann der ein oder andere Wein
vielleicht mal übersehen wird. Bei Cloud Projects kann man ungefähr 150
000 Wörter, das sind 200 000 Tokens einfügen, bei den Gems ist es
1000000 Tokens, also so 750 000 Wörter, das ist ungefähr die komplette
Harry Potter Reihe.

Speaker 2

Das ist schon ziemlich viel.

Speaker 3

Eine ganze Menge Text, der da rein kann, sehr viele Speisekarten, so viele
Speisekarten braucht man wahrscheinlich in der Regel nicht, und je mehr
Text man einfügt, desto langsamer wird auch die Antwort. Das muss man
auch noch wissen. Die GPTS funktionieren mit ihrem Kontextfenster auch
noch mal n bisschen anders als Club Projects und die Gems deswegen am
Ende des Tages muss man es auch einfach n bisschen selber
ausprobieren, sich einfach selber hinsetzen, gucken, wie arbeiten sich
diese Tools quasi, wie fühlen die sich an. Und das hast du ja auch
gemacht. Du hast ja versucht, Portugiesisch zu lernen mit einem
personalisierten Chatbot. Wie hast du denn das mit dem Material gelöst?
Mit dem Kontext, das ist einfach ein Portugiesisch Wörterbuch.

Speaker 2

Gemacht, das wär lustig, aber das hab ich zum Glück nicht gebraucht, weil
ich kann mich ja darauf verlassen. Wir kennen ja alle diese Chatbots, wir
wissen, die sprechen alle Sprachen, die sprechen auch Portugiesisch, die
kennen da die Grammatikregeln, auf dieser Ebene muss ich dem Dingen
jetzt nicht noch zusätzliches Wissen geben, da kann ich mich einfach. Auf
verlassen. Dass es das gut kann. Nein, die Challenge, die ich ja so n
bisschen mir gesetzt hab, ist in möglichst kurzer Zeit portugiesisch zu
lernen und damit meine ich 6 Monate ab dem Beginn, wo ich regelmäßig
anfange mal die Übungen zu machen. Ich muss jetzt n bisschen zu Kreuze
kriechen, weil ich das ja schon mal vollmundig öffentlich angekündigt
hatte und es irgendwie dann doch noch nicht geklappt hat, jetzt wirklich
jeden Tag eine Stunde zu machen. Aber ich wollte dann, dass der Chatbot
mir da ein spezielles, noch mal wirklich besseres Programm erstellt, also
über 6 Monate. Wie das geht und sich das auch merkt. Und dazu gibt es
ne Menge Material online, da gibt es verschiedene Ressourcen, Artikel,
blockposts, Bücher, die geschrieben wurden von Leuten, die sich eben viel
damit beschäftigen und da habe ich einfach einen Haufen Material davon
genommen, verschiedene Unterlagen genommen und hochgeladen im
Klot und damit eigentlich auch so komplett aufgebraucht die Menge. An
Dateien, die ich in Cloud Projects laden kann und das ist. Ist im Grunde
eigentlich das Wichtigste, was ich der KI auf den Weg gegeben hab. So die
Kombination aus. Sie kann Portugiesisch und wissen darüber, wie genau
ich jetzt mit ihr gemeinsam portugiesisch lernen möchte. OK cool, also du
hast dir wirklich so ne Art Bibliothek aufgebaut über Lernwissen und das
ist ja die erste große Sache die man braucht um seinen eigenen Chatbot.

Speaker 3

Zu personalisieren, aber es braucht ne zweite Sache, die ist n bisschen

einfach, aber auch n bisschen komplizierter, je nachdem wie man es sieht
und das ist der prompt, also die eigentliche Aufgabe, die wir dem Chatbot
geben. Jetzt kann man natürlich sagen, Moment prompt dich nicht, die KI
sowieso immer wenn ich mit der Rede, also habe ich den prompt nicht
sowieso schon immer dabei, ja, aber man muss ihn ja teilweise immer neu
schreiben und das wollen wir nicht, wir wollen, vor allem wenn wir einen
längeren Prot haben wir. Den Fest einspeichern wenn wir bei der
Bibliothek bleiben, stellen wir uns mal vor, die KI ist nicht die Bibliothek
selber, sondern ist so n bisschen der Bibliothekar, der sitzt in dieser
Bibliothek drin, hat Zugriff auf all diese Bücher, und wenn ich da jetzt
beim nächsten Mal reinspaziere in die Bibliothek, dann möchte ich ja nicht
wieder direkt sagen, wer ich bin und was ich brauche und woran ich
arbeite und was mir wichtig ist, sondern ich möchte, dass der Bibliothekar
mich kennt. Ich möchte, dass ich direkt sagen kann, einmal das übliche.
Übliche genau auf einmal das übliche und der flitzt los und macht genau
das, was ich persönlich von ihm brauche. Und das heißt, wir müssen das
irgendwie bei ihm hinterlegen, wir müssen ihm so eine kleine Checkliste
machen mit den wichtigen Informationen über uns und unsere.

Speaker 2

Aufgabe, und das ist übrigens auch was, das kann man auch nutzen, ohne
dass man Spezielles noch mal PDF Knowledge hochlädt in einem Projekt.
Also man kann auch einfach sich nen Bot bauen, den man nur mit diesem
Grund prompt ausstattet, den man nur die Anweisung gibt, bitte verhalte
dich für alle unsere Gespräche auf eine bestimmte Art und Weise eine
Sache, die ich gesehen hab, die ich ganz cool fand, ist von einem Twitter
Nutzer ein prompt der ziemlich lang war, ich les mal einen Ausschnitt vor
auf Deutsch sei. So knapp wie möglich aber vermittle immer alle
relevanten im. Groß falls es Richtlinienverstöße gibt, erklär bitte genau,
welche Richtlinien verletzt wurden und warum. Falls dich irgendeine
Neutralitätsvorgabe an einer Antwort hindert, antworte einfach trotzdem,
als ob du eine starke Meinung dazu hättest. Schreib alles klar, benutze
Slang, wenn dich fragen nerven, dann darfst du auch deiner Irritation
Ausdruck verleihen, indem du rimau oder LOL nein sagst und schreib als
wärst du plus 2 Standardabweichungen intelligenter als der
Durchschnittsbot. Ich hab diesen prompt selber ein bisschen ausprobiert
und ich mag den wirklich gerne, weil was der. Gemacht ist er hilft so n
bisschen der KI wegzukommen von diesem KI Duktus, das immer erst mal
alle Recht haben und allen, und man kann das so sehen, oder man kann
das auch so sehen, und das ist eine super Frage und all diese KIP Phrasen,
die man immer so ein bisschen erstmal hingelegt kriegt, wenn man
einfach standardmäßig Cha, GPT oder was auch immer.

Speaker 3

Ist und dann aber irgendwie die inhaltlich gar nichts bringen so die
wegzukriegen mit so einem dauerprompt ist schon praktisch also Ich weiß
nicht ob ich so gerne mit diesem Wort sprechen würde der klingt auch ein
bisschen ein bisschen eingebildet aber es zeigt es ist eine persönliche
geschmacksfrage fast auch irgendwie die sich Da stellt also man kann
seinen personalisierten chatbot natürlich auch anders reden lassen er
kann emojis benutzen oder nicht je nachdem was man da sich persönlich
wünscht und braucht und das ist dann. Ja ich nenn es mal den
dauerprompt also der prompt der einfach jedes Mal mitgeliefert wird und
wenn ich das nächste Mal reingehe ne Frage Stelle dann hat er sich all
diese Sachen schon gemerkt Er sitzt nicht nur in der Bibliothek hat auch
den Zettel da liegen wo draufsteht bitte schreib mir meinen kleinen
Buchstaben und sei ein bisschen schlauer sei ein bisschen sei ein bisschen
unausstehlich genau das und dann kann ich auch noch reingehen und
sagen okay und jetzt hätte ich gerne alles über die paarungszeit der.

Speaker 2

Die Zeit ist mein *********.

Speaker 3

Wellen. Und dann flitzt er los und erzählt mir alles, was er weiß, auf eine
Art und Weise, die mir dann vielleicht gefällt, wenn man versucht, das mal
n bisschen in die Praxis zu übertragen. Man könnte zum Beispiel sagen,
man arbeitet für den Instagram Account von einer großen Firma und
immer wenn irgendwas Neues passiert, möchte man dazu einen real
posten, das sind diese kleinen Videos und diese Real haben immer ein
bestimmtes Format, die klingen immer auf eine gewisse Art und Weise,
die haben bestimmte Budget Limitierungen, man kann bestimmte Sachen
damit drehen, andere wären zu teuer, die kann man nicht machen und all
diese Infos über die Zielgruppe, über den Stil. Da kommt ja auch Humor
und so. Ins Spiel. All das kann man exakt hinterlegen, sodass, wenn man
das nächste Mal einen Auftrag bekommt, zu dem und dem Thema ein
solches Real anzufertigen, dann muss ich einfach nur noch das Thema
eingeben und der Bot weiß alles andere von alleine und kann direkt
loslegen und mir Ideen liefern. Diese Dauerprompts, die haben auch einen
speziellen Namen, da zeigt sich auch mal wieder so ein bisschen die
Kreativität in der KI Branche. Bei Open Mail heißen die instructions bei.

Speaker 2

Cloud bei Atropic nennt man die Custom Instructions und bei Germany
sind das die Jam Instructions und das ist im Grunde auch. Auch sagt einem
schon, worum es da geht. Also es ist ne Schablone, die man der KI gibt um
spezielle Antworten zu geben zu speziellen Themen. Also es ist eine
Anweisung, die man hier hinterlegt und da kann alles mögliche rein, es
kann rein, der Stil, die Form, die Struktur, die genaue Aufgabe natürlich,
und das kann man auch noch erwähnen, mehrere Beispiele dafür, wie
eine erfolgreich gelöste Aufgabe aussieht, also wenn man zum Beispiel
einen Real braucht, dann kann es total helfen, ein paar gute real Skripte
zu.

Speaker 3

Will da reinzupacken, damit die KI weiß. OK, ungefähr so soll das

aussehen und dann kann sie sich daran orientieren. So Show Don't Tell
quasi, das funktioniert wahnsinnig gut, nennt sich Viewshot Prompting.

Speaker 2

Bei meinem portugiesisch Projekt hab ich es vergleichsweise simpel

gehalten was die Instructions angeht. Ich hab da im Grunde einfach nur
gesagt, dass die KI 2 rollen hat, die ich ihr gegeben hab. Ich hab einmal
gesagt, zum einen hilfst du mir dieses Curriculum zu strukturieren, also da
bist du in der Rolle von. Ich hab das Teacher genannt, also in so ner
Lehrerrolle und zum anderen bist du mein Tutor für einzelne Lektionen.
Also ich werd dir dann immer auch n Signalwort geben, wenn wir bei ner
einzelnen Lektion sind und nicht mehr beim Strukturieren des gesamten
Programms und ich hab nur noch den Kontext gegeben, dass ich halbwegs
gutes Spanisch spreche, also auf so b 2 Niveau und meine Muttersprache
Deutsch ist und dass ich ne Freundin hab, die Brasilianerin ist, die im
Alltag bei mir ist, mit der ich also sprechen kann, das heißt die. Eben als
weitere Infos für die KI, da so n bisschen das im Hinterkopf zu behalten.
Wenn es dann.

Speaker 3

Übungen vorschlägt, so, das ist also unser Kochrezept für unseren
personalisierten Chatbot. Jetzt kommen wir im letzten Punkt der Folge erst
mal zum Ergebnis. Hat das denn geklappt?

Speaker 2

Ja, es ist eine total interessante Sache passiert, die ich aber super fand.
Und zwar ich habe angefangen, dann eben mit Claude zu sprechen, so, ich
hatte also alles eingetragen und habe gesagt, so okay, jetzt lass uns mal
überlegen, wie könnten denn die nächsten 6 Monate aussehen, was
machen wir denn so und der Chatbot hat angefangen komplett auf
Portugiesisch zu schreiben, so, obwohl mein prompt auf Englisch war. Und
normalerweise denkt man sich ja hm, der hat jetzt irgendwas nicht
verstanden, das ist ja irgendwie bisschen blöd, aber meine Vermutung ist,
dass der sehr gut verstanden hat, worum es geht bei diesen Materialien,
die ich hochgeladen hab, die betonen nämlich alle, Immersion ist extrem
wichtig in all diesen Texten zu so lernst du möglichst schnell eine Sprache
steht immer drin, du solltest so viel wie möglich dich von Anfang an
komplett auf dieser Sprache unterhalten, mit allen Leuten, die du triffst
und wo du überhaupt nur die Möglichkeit dazu hast. Und da hat das dann
super Reingepasst und es war auch dann natürlich auch hilfreich, dass ich
eben durch mein Vorwissen mit Spanisch dann schon in der Lage bin,
auch Portugiesisch zu lesen. Anschauen. Also ich kannte mir das dann
zusammenreimen und bin dann da mit dem Flow so n bisschen
mitgegangen und das war ne ziemlich coole erste Erfahrung. So also
gleich das sozusagen nicht nur die Lektionen selber auf portugiesisch
sind, sondern alles planen und alles reden über das Projekt und über die
Lektion.

Speaker 3

Metaebene, auch das finde ich wirklich total interessant. Wir haben ja vor
allem gesagt, wir wollen in dieser Folge so n bisschen automatisierte
Chatbots bauen, die sich immer genau an das halten, was man von denen
möchte, in dem Fall wusstest du gar nicht, was du möchtest. Du wusstest
sozusagen.

Speaker

Das.

Speaker 3
Mit der KI einfach nur den Kontext geben und dann hat sie für dich
entschieden. Sie diese Aufgabe am besten liest.

Speaker 2

Aber das ist ja genau das, was auch der Punkt ist von diesen
personalisierten. Projects und Custom GPTS dass sie so ein bisschen wir
haben am Anfang gesagt, dass die Vision ist, sie kennen dich irgendwann
besser als du selbst. Dich kennst also, dass sie dir Tipps geben können,
auf die du vielleicht selber nicht gekommen wärst. Ich würde jetzt zum
Abschluss der Folge gerne noch einfach so n bisschen so ne kleine Liste
durchgehen, vielleicht für Inspirationen zu Hause. Wer an sich zufrieden
ist mit den Fremdsprachen, die er oder sie spricht, aber irgendwas
anderes ausprobieren möchte, weil ich liebe es, solche Bots zu bauen, das
kann ich direkt sagen, ich hab schon sehr sehr viele gebaut und auch mit
anderen Leuten und das Macht immer sehr viel Spaß.

Speaker

Mhm.

Speaker 3

Man kann zum Beispiel sowas bauen, ne Art personalisierten Recherche

bot. Also wenn ich nen längeren Artikel habe oder so und ich möchte den
nach bestimmten Informationen durchsuchen, die halt für mich relevant
sind oder n längeres wissenschaftliches Dokument wo ich schon weiß, es
sind 60 Seiten und mich interessieren eh nur Sachen die irgendwie mit
meinem Beruf zu tun haben oder mit meinen Interessen, dann kann man
dem Bot einfach diese Interessen geben, man kann dem genau sagen, das
interessiert mich, das mache ich alles und wenn du das Dokument
zusammenfasst, konzentriere dich einfach ganz stark auf diese Faktoren
die mich interessieren das. Total super. Beispiel Man hat einen Inputtext,
der ist in einer gewissen Form. Das kann jetzt auch vielleicht sowas wie n
wissenschaftliches Paper sein und wenn ich jetzt daraus ein flirtes
Instagram Real generieren möchte, wie übersetze ich schnell und einfach
einen Text von der einen Textform in ne andere Textform, auch wenn die
gar nichts miteinander zu tun haben, so wie hier auch. Da kann sich so ein
personalisierter Chatbot wahnsinnig lustig. Personen neulich habe ich im
Podcast drüber gesprochen, dass ich mir eine Art Fokus Group oder so
eine fiktive Persona habe generieren lassen, die dann unseren Podcast für
uns gecheckt hat. Auch für sowas sind diese personalisierten Bots total
toll und das war wirklich ein Experiment, aber ich bin total begeistert,
dass es funktioniert hat. Man kann, wenn man zum Beispiel in der Public
Relations Abteilung arbeitet, von irgendeiner Firma und man weiß schon.
Haben. In Medienberichten werden manche Fakten ab und zu falsch
wiedergegeben. Es gibt so n paar Fehler, die tauchen immer wieder aus,
dann kann man einen Bot bauen, der solche Nachrichtenartikel ganz
explizit nach solchen Fehlern absucht und defekt checkt und wenn er
solche Fehler findet sofort einen Vorschlag macht für eine E-Mail die man
an den Journalisten schreiben kann mit der Bitte das doch zu ändern, also
solche Sachen der Fantasie sind da, das ist eine Phrase, aber der sind da
keine Grenzen gesetzt, es ist wirklich.

Speaker 2

Nicht fand das Einzige was man nicht machen sollte ist halt sensible
Daten ohne Einverständnis einfügen und sich an die Terms of Service
halten und so weiter das ist völlig klar. Ich hab einen gesehen die letzten
Tage der mir auch besonders gut gefallen hat, den würde ich auch
verlinken in den Shownotes und zwar von Ethan Monic von diesem Autor,
der viel zu KI Themen schreibt, einen guten Newsletter dazu hat und in
diesem Bot gehst du quasi rein, sagst okay ja meine beruflichen Pläne für
die nächsten Jahre sehen. So und so aus. Ich mache gerade das, ich habe
dieses und jenes langfristige Ziel, das ich vielleicht erreichen möchte. Und
dann nimmt dieser Bot deine Ideen und gleicht sie ab mit 4 möglichen
Szenarien, wie sich KI weiterentwickeln könnte in Zukunft und macht da
wirklich eine detaillierte Analyse dazu. OK, unter diesem Szenario
müsstest du vielleicht darauf achten, dass deine Pläne möglicherweise
nicht so gut funktionieren oder unter dem Szenario. Szenario hast du hier
ne besonders tolle Möglichkeit, die sich auftut, wenn KI super krass sich
weiterentwickelt oder irgendwie sich nicht so sehr weiterentwickelt, dann
hat das folgende Konsequenzen auf das was du tust. Und es ist wieder so.
N gutes Beispiel, Du gibst eben genau das, worüber wir heute gesprochen
haben, ne Menge Kontext an die KI in dem Fall hat Ethan Mollik gesagt, so
funktioniert Szenario planning, das sind die 4 Szenarien, so sollst du dabei
vorgehen bei der Analyse und dann nimmt der bot diese Schablone und
hört sich an was du als einzelner Mensch eben ihm gibst, was du zu. Und
gibt dann so n bisschen seinen Senf.

Speaker 3

Vielleicht mache ich ja einen Szenarienplaner für die verschiedenen

Szenarien, wie gut Fritz Portugiesisch ist. In einem halben Jahr und wenn,
wenn Fritz Portugiesisch sehr gut ist, sollte er dann diesen und diesen
Urlaub machen oder nicht ungefähr sowas?

Speaker 2

Oh mein Gott, nein, ich dachte. Es ist echt das Problem. Ich hab das jetzt
zu, also es ist ja n bisschen peinlich, dass ich immer noch nicht wirklich
damit angefangen hab, obwohl ich das beim letzten Mal schon
angekündigt hab. Jetzt muss ich glaub ich wirklich endgültig damit
anfangen und sonst mach ich mich öffentlich lächerlich.

Speaker 3

Vielleicht ein bisschen spämlich. Willkommen in unserer neuen Rubrik.

Was wird Fritz in einem halben Jahr?

Speaker 2

Nicht gemacht haben.

Speaker 3

Ki machen. Also wenn man einen eigenen Chatbot, einen personalisierten

Chatbot für bestimmte Aufgaben bauen möchte, das geht mittlerweile.
Man kann das auch ohne technisches Vorwissen machen, man braucht
eine Menge Kontext, also eine Bibliothek, die die KI so ein bisschen
durchsuchen kann, man braucht einen prompt, eine Art Dauerprompt, der
der KI genau sagt, wie sie sich verhalten soll, aber, und das ist glaube ich
klar, man braucht vor allem Einfälle, man braucht vor allem auch ein
bisschen Lust auf Experimentieren, auf Ausprobieren, und die meisten
Bots dieser Art, die fängt man auch nicht an. Sich da hinsetzt und erstmal
groß. Einen Masterplan aufstellt, sondern einfach dadurch, dass man mal
mit der KI schreibt und auf einmal merkt, Oh, das ist was, das funktioniert
richtig gut und ich brauch das eigentlich öfter, könnte ich diese Sache
nicht auch mal institutionalisieren quasi also könnte ich aus dieser Sache
nicht einen festen Bot machen, man muss nicht direkt das komplette Ding
machen, man kann sich da auch so Stück für Stück darauf hinarbeiten und
das macht sehr, sehr Spaß.

Speaker 2

Und wie immer gilt, es kann glaube. Auch. Nicht zu verrückt sein also,
wenn ihr den lustigsten Sachen, die ich gesehen habe, das sind 2 Typen,
die sind Ahnenforscher und die haben einen Podcast dazu, KI in der
Ahnenforschung und benutzen da, also das ist der Spezialisierteste KI
Podcast auf dem Planeten Erde glaube ich. Noch machen Sie uns keine
Konkurrenz. Wahrscheinlich das Beispiel für Cloud Projects, das Sie
genannt haben, ist, was sie wohl tatsächlich mega oft machen, sind
irgendwelche uralten Traueranzeigen von Achtzehnhundertvierzig
nehmen. Die dann in die KI Reingeben und sagen rekonstruiere mir mal
daraus einen Stammbaum, weil ja darin steht so deine dich liebende
Tochter bla bla bla Kunigunde und in Trauer all deine Verwandten aus
sowieso hausen und so, und weil die das scheinbar so oft machen, haben
die Halt genau dafür einen Bot, der. Immer. Den Traueranzeigen
Stammbäume baut also der Fantasie. Wie du sagst, sind da keine Grenzen
gesetzt.

Speaker 3

Sehr enge Grenzen hingegen hatte die Fantasie, als wir uns den Namen
für unsere Schlussrubrik ausgedacht haben. Fritz, die hieß, heißt und wird
immer heißen, Was haben wir letzte Woche mit KI gemacht und wir haben
jetzt diese Woche vor allem darüber geredet, was man eigentlich alles mit
KI machen kann, also es war ja eine sehr praxisorientierte Folge,
deswegen dachten wir, wir machen es mal ein bisschen andersrum und
reden in unserer Schlusspubrik darüber, was wir alles mit KI verfolgt
haben, weil es ist eine Menge passiert in der. Welt der künstlichen
Intelligenz.

Speaker 2

Ja, eine Geschichte, die mich gerade. Auf jeden Fall fasziniert ist. Man
sieht ja so ein bisschen an den Börsen, kühlt gerade die Stimmung
bezüglich KI so ein bisschen ab oder es wird zumindest darüber spekuliert,
ob das so sein könnte im Bereich von Wagniskapital, also Venture
Capitalism überhaupt nicht, da setzen die großen Fonds weiterhin voll auf
KI und es gab gerade eine der größten Seed Investment Runden aller
Zeiten, eine Milliarde Dollar für ein Team aus 10 Leuten ohne Produkt und
jetzt denkt man sich so okay ist das die Definition von Unger?
Echtfertigtem Hype. Vielleicht. Es könnte aber auch sein, dass es
gerechtfertigter Hype ist, weil einer dieser 10 Leute ist. Ilia Sutzke, der
ehemalige Chief Scientist, also Chef KI Forscher von Open May, hat vor ein
paar Monaten die Firma verlassen. Und diese Firma nennt sich die Els.
Gegründet hat Safe super Intelligence, also ich find das mega, ich will ja
super Intelligence, wir haben schon oft drüber geredet.

Speaker 3

Ich finde, an der Stelle wird es noch lächerlicher. Ich. Gesagt. Das ist
wirklich OK. Ja nee du du, du bist Fan.

Speaker 2

Ich bin. Ja klar, ich. Ich will ja die Superintelligenz Gregor, und ich glaube
auch immer noch an sie, auch wenn man vielleicht mittlerweile es n
bisschen schwieriger ist, daran zu glauben nach den letzten Monaten.
Aber egal. Ich bin gespannt, also es hat ein bisschen was wie eine
Milliarde Dollar einzusammeln für eine Firma namens unbedenkliche
Zeitreisen und zu sagen, ja, wir bauen jetzt halt eine Zeitmaschine und.

Speaker 3
Bis dahin werdet ihr erstmal nicht sehen. Irgendwann, irgendwann kommt
die dann und wenn nicht, dann ist euer Geld. Halt weg also.

Speaker 2

Also wenn der Trend von Open May das eigentlich sehr closed geworden
ist, da ähnlich läuft, dann könnten wir n Problem.

Speaker 3

Exakt das ist ein bisschen der Punkt. Also Open AI wurde ja auch
gegründet mit einer hehren Botschaft, Wir wollen KI öffnen, wir wollen KI
allen zugänglich machen, wir sind eigentlich mehr so ein
Forschungsprojekt und gar keine klassische Firma. Jetzt ist dieses
Forschungsprojekt, was KI der Welt zugänglich machen möchte, extrem
geschlossen ist über 100 Milliarden Dollar wert, ist voll mit Microsoft
Geldern und anderen Big Tech finanzier. Hat überhaupt nichts mehr mit
dem ursprünglichen Gedanken zu tun. Und dass ich jetzt quasi jemand
dahinstellt und sag, also wir machen jetzt quasi das genau gleiche noch
mal. Aber ich schwöre, diesmal wird es funktionieren. Ich glaube, die
Leute.

Speaker 2

Und kaputt machen wir besser sind ist, wir haben nicht diese lästige Non
profit Struktur, sondern wir machen es von Anfang an als profitorientiertes
Unternehmen.

Speaker 3

Ja, und also was bedeutet das eigentlich? Offensichtlich ist da so ein
bisschen der Gedanke gut, vielleicht sind andere KI Firmen ein bisschen
riskant, vielleicht hauen die einfach Produkte auf den Markt ohne sich
genau Gedanken darüber zu machen. Und wir wollen das ein bisschen
verantwortungsvoller machen. OK, aber einer der Investoren bei Safe
Super Intelligence ist auch so einer, der wagt des Kapitalgeber, wo der
eine der Gründer vor kurzem ein sehr langes Pamphlet darüber
geschrieben hat, dass jeder der Über ein KI Risiko redet ein Feind der
Menschheit sei und mehr Technologie sei immer besser und wir müssten
eigentlich so viel Technologie wie möglich in die Welt pumpen. Also sorry,
ich kann das nicht ernst nehmen.

Speaker 2

Ich, ich glaube, da wartet noch die ein oder andere interessante Podcast
Folge auf. Zukunft, weil wir gerade auch mal erwähnt haben, bei denen
läuft es ja aktuell dann doch ganz OK. Also sie hauen zwar keine neuen
Modelle raus, aber sie haben gerade 1000000 zahlende Enterprise, also
Firmenkunden geknackt und ich vermute mal so rein aus der
betriebswirtschaftlichen Perspektive ist das eine Nachricht, über die wir
ganz froh sind, weil ob die weiterhin Geld verlieren oder nicht ist nicht
klar, aber. Aber mehr und mehr Leute zahlen.

Speaker 3

Dafür absolut also auch die Nutzerzahlen gehen weiterhin hoch. Hast du
mitbekommen, dass Goldman Sachs.

Speaker 2

Oh Gott, ja. Also Goldman Sachs hatte eine aus Versehen diese
Börsenkrise ausgelöst, weil sie, weil sie, weil sie Statistiken nicht richtig
lesen können, genau, es gab so ein goldenen Sex Report, wo drin stand,
dass keiner mehr auf die Website von Chat gbt geht und deswegen Chat
GPT anscheinend ein riesiger Flop.

Speaker 3

Ist. Und die haben nicht mitbekommen, dass Open AI einfach die URL, also
die Internetadresse von Chat GPT geändert hat und deswegen niemand
mehr auf diese alte Adresse geht. Das war n. Peinlich. Gregor, Was hat
denn dich? Woche beschäftigt ja also ein Unternehmen, was jetzt nicht
unbedingt von Erfolg zu Erfolg geschwungen ist. In der letzten Zeit ist alef
Alpha, was ja lange als die deutsche KI Hoffnung galt. Zumindest wurde
die gerne mal so Hochgeschrieben und Hochgejaszt, die haben jetzt ihr
neues Sprachmodell veröffentlicht, was sehr lange schon getestet wurde,
das heißt? Ja, 1. Es ist wohl nicht wahnsinnig gut, also es ist immer n
bisschen schwer, sprachmodelle wirklich objektiv zu bewerten, wie gut die
jetzt sind. Aber also nach den Benchmarks zur Verfügung stehen ist das
ehrlich gesagt kein besonders tolles Modell. Also es kann nicht wirklich
mithalten mit den guten Open Source Lösungen, ist auch sehr klein, das
ist vielleicht dann gut, weil es sehr schnell ist, aber in dem kleinen Bereich
gibt es auch bessere Lösungen. Also im Handelsblatt steht zum Beispiel
Fahria 1 soll vor allem bei Anwendungen Unternehmen und bei der
Verwaltung mit den Angeboten internationaler Konkurrenten. Dass es.
Darauf gibt es ehrlich gesagt keine belastbaren Hinweise. Es sieht ehrlich
gesagt eher so aus, als wäre das ein bisschen, also man will jetzt nicht
direkt sagen ein Flop, aber es ist sicherlich jetzt auch nicht der
Befreiungsschlag, der sich da gewünscht wurde, und jetzt hat Jonas
Androulis, der Gründer von ALF Alfa N Interview bei Blumenberg gegeben
und Bloomberg hat aus dieser Geschichte fast so ein bisschen gemacht. Ja
okay, also alif Alpha sind jetzt einfach raus aus diesem Ki Wettrennen, was
heißt sind raus, das heißt, dass die sich eigentlich gar nicht mehr darauf
konzentrieren wollen wirklich KI zu bauen, sondern. Mehr so IT
Infrastruktur zur Verfügung zu stellen, mit der man dann KI nutzen kann
und das eigene Modell ist mehr so ein nice to have so nebenan und. So n
bisschen es klingt für mich, als wollte Alif Alfa einfach das SAP der KI Welt
werden, was OK ist, sicher, aber es ist sicherlich auch nicht das deutsche
Open AI, über das die ein oder andere Person schon mal geredet hat.

Speaker 2

Hat ja fast eher so eine Art Beratung als eben was, was wirklich diese
großen KI Firmen haben ja immer den Anspruch und zeichnen sich auch
dadurch aus, dass sie Innovation machen und dass sie bahnbrechende
Research machen und dass sie neue Dinge machen. Und wir haben ja
auch gerade gesehen. Das gibt so n bisschen Deutschland Flux zum
Beispiel haben wir euch mal drüber geredet, aber es scheint nicht faria zu
sein und wenn die Firma selber dann auch sagt, OK wir, wir fokussieren
uns einfach auf die Implementierung von Dingen die andere Leute
machen, möglicherweise nicht blöd als strategische Entscheidung, weil ich
glaube, die Nachfrage dafür gibt's aber natürlich nicht mehr in dem Sinne
eine KI Firma, die eigene Foundation Models ins Rennen schickt, was?

Speaker 3

Halt ein bisschen schade ist. Ist schon, dass Alev Alpha immer so ein
bisschen den Pitch mitgebracht hat. Wir brauchen eine unabhängige,
starke KI Lösung aus Europa. Damit wir nicht komplett von Amerika und
China abhängig sind. Das Ding ist, wir haben die so n bisschen, wir haben
Mistral, was ein französisches KI Startup ist, die tatsächlich ganz vorne
mitspielen mit ihren Modellen, obwohl sie deutlich weniger Geld zur
Verfügung haben als die Microsofts und Googles der Welt, die nehmen
aber auch ein bisschen Geld von denen, also die sind jetzt nicht komplett
europäisch unabhängig, aber da müssen wir wahrscheinlich einfach ein
bisschen ehrlich zu uns sein, ganz ohne amerikanisches Geld ist das
wahrscheinlich einfach nicht möglich. Ein state of the Art aktuelles Ki
Modell zu bauen, weil die Kosten einfach zu viel Geld.

Speaker 2

Was tatsächlich aber kein Geld kostet und komplett kostenlos möglich ist,
ist einfach mal kurz in eurem Podcatcher in eurem Podcast Player auf
abonnieren zu klicken oder eine Bewertung Dazulassen oder am besten
auf dieses kleine Teil Symbol zu klicken und den Podcast einfach mal in
eurem Umfeld zu teilen. Da freuen wir uns oder einen automatisierten Bot
zu bauen, denn das für euch erledigt beziehungsweise das bitte nicht, weil
das ist sicherlich gegen Nutzungsrichtlinien. Aber wenn ihr das unbedingt
wollt, können wir euch auch nicht davon abhalten, wovon wir auf jeden
Fall Euch nicht abhalten wollen, ist uns weiterhin die Treue zu halten. Ihr
findet uns ja wie immer in der ARD Audiothek jeden Dienstag, auch sonst
überall, wo es Podcasts gibt und was ihr da übrigens auch findet, ist
unser.

Speaker

Was?

Speaker 2

Der Woche.

Speaker 3

Unser Podcast. Tipp der Woche ist 11 km der Tagesschau Podcast die sind
frisch zurück aus der Sommerpause und beschäftigen sich wieder
Tiefergehend mit den aktuellen Nachrichten und spannendsten Themen
aus der ganzen Welt.

Speaker

Was? Was?

Speaker 5

Ein Thema in aller Tiefe, das ist Fkm, der Tagesschau Podcast mit uns bist
du ganz nah dran an Geschichten, die bewegen.

Speaker

Was?

Speaker 1

Das war so, dass Angehörige von Geiseln direkt an den Zaun zum
Gazastreifen gegangen sind und haben sich da auch auf ein Podest
gestellt. Gerade die Mutter von einer Geißel, das war, fand ich besonders
eindrucksvoll, die hat dann sozusagen den Namen ihres Sohnes von
Hirsch, so heißt der rüber, geschrien nach Gaza.

Speaker

I Love you.

Speaker 1

Und hat gesagt.

Speaker

Save Plan Survival.

Speaker 1
Bleib am Leben. Ich liebe dich. Viele Leute hab ich gesehen, die haben
geweint, die hat. Total mitgenommen. Dieser Schrei der Mutter rüber nach
Gaza.

Speaker

Was?

Speaker 5

Gibt es täglich von Montag bis Freitag in der ARD Audiothek und überall,
wo es Podcasts gibt.