Bin gerade sehr damit beschäftigt, in meinem Unternehmen einen Rahmen für Künstliche Intelligenz einzuführen. Das nimmt in diesen Tagen einen großen Teil meines Aufmerksamkeitshorizonts ein. Weil meine Firma einen erhöhten Bedarf an Datenschutz hat, gibt es große Bedenken bezüglich der Datenhandhabung von US-Unternehmen, was seit einigen Monaten ja ohnehin voll mein Thema ist. In diesem Zuge kam ich darauf, dass man verschiedene große Sprachmodelle auch einfach herunterladen und selbst betreiben kann. Nicht ChatGPT und nicht Claude oder Gemini. Aber verschiedene andere, sogenannte Open-Source- bzw. Open-Weight-Modelle, die in Aktualität vielleicht ein halbes Jahr hinterherhängen, aber für 99% aller Anwendungsfälle vollkommen ausreichen.
Ich hatte schon über solche Modelle gelesen bzw. sie überlesen, dass das aber wirklich eine valide Alternative ist, mit richtig starken Sprachmodellen, die man völlig autonom lokal auf einem abgeschotteten Server betreiben kann, das wollte offenbar nicht zu mir durchdringen.
Ein Server, auf dem man das betreiben kann, kostet zwar viel Geld, aber es ist immer noch wesentlich billiger, als tausend Mitarbeiterinnen mit Pro-Accounts von ChatGPT auszustatten.
Es gibt dieses Emoji mit dem explodierenden Kopf. Ich glaube, der Kopf symbolisiert eine Explosion psychonuklearen Ausmaßes. Für mich ist psychonukleare Physik etwas Positives. Ich laufe seit Tagen mit einem Kopf herum, der diesem Emoji ähnelt.
Das wollte ich sagen.
Nein, ich schreibe gerade nicht am großen Textprojekt weiter. Ich wollte ursprünglich etwas weniger bloggen und mir dafür Zeit für das Romanprojekt nehmen. Stattdessen liegen bei mir zu Hause wieder viele Kabel herum, an deren Ende Laptops, Raspis und Mini-PCs große und kleine KI‑Modelle betreiben.
