Hi zusammen,
also zumindest gefühlt geht die Zeit dem Ende entgegen, fast keine "Coding" Ai ist wirklich komplett kostenlos zu haben, fast alle oder alle haben inzwischen ein "Limit" oder "Token" System implementiert das regelt wie viele Anfragen du in einer bestimmten Zeitperiode machen kannst.
Manche verlangen auch für diese reglementierten Zugänge schon eine monatliche oder jährliche Gebühr, andere halten diese noch kostenlos aber vergeben nur sehr wenige freie Anfragen.
Aber woher kommt das ?
Naja, zum einen ist das ein Klassiker, man hat was neues, will Leute dazu bringen das zu benutzen und die Vorteile zu sehen also bietet man es billig an und gibt Lockangebote an alle die eins haben wollen, das macht OpenAI ja immoment auch heute noch so obwohl auch da die richtig guten LLMs erst innerhalb eines "bezahlten" Zugangs zu haben sind.
Auf der anderen Seite kann kein wirtschaftlich agierendes Unternehmen auf diese Art und Weise ernsthaft Geld verdienen, also muss man früher oder später ran und die Preise anziehen, die freien Zugänge beschränken und den Leuten das Tool an das sie sich gerade gewöhnen zumindest teilweise wieder wegnehmen ;)
Denn, eins ist klar, zum Nulltarif gibt es keine Auskunft von einer KI, es muss sehr viel Rechenpower und Strom ins trainieren der Modelle gesteckt werden und auch die Beantwortung einer jeden Frage kostet. Genaue Zahlen hierzu sind nicht wirklich zu finden, die Unternehmen halten sich da sehr bedeckt, Google sagte mal das es zwischen 23-30 mal mehr kostet eine KI zu Fragen als eine ganz normale Google Suche zu machen, aber auf aktuelle Forschungen zum Thema Stromverbrauch etc gibt derzeit kein Unternehmen ernsthaft Antwort.
Aber eins ist auch klar, viele werden sich erinnern das es auch bei Bitcoin die Stromdiskussion gab, ich hab auch vor Ewigkeiten dazu mal einen Artikel geschrieben, bei KI reden wir über einen deutlich höheren Verbrauch.
Was kann man selbst tun ?
Wenn man eine halbwegs potente Grafikkarte oder einen PC hat könnte man selbst eine LLM betreiben, es gibt hierzu mit Ollmana und oder LMStudio Tools die einem das sehr einfach machen und die auch viele Open Source Modelle zum Download anbieten.
Hat man diese aufgesetzt kann man das im lokalen Netzwerk oder auch im Internet teilen und nur noch die eigene Instanz einer LLM befragen, was auch zur persönlichen Datensicherheit einen nicht unwesentlichen Teil beitragen kann :)
Ein schönes Wochenende!
Jan