ChatGPT Alternativen gibt es mittlerweile sehr viele, auch Open Source.
HuggingChat
Dolly
Paper zu LLaMA
Github - llama-dl (nicht von Meta)
Diese Alternativen sind aber allerdings nicht ganz ohne Probleme und erreichen nicht wirklich die gleiche Leistung wie GPT 3.5.
Außerdem gibt es bei LLaMA und Dolly urheberrechtliche Probleme in Bezug auf die Nutzung.
Es kommen ständig neue Sprachmodelle heraus, da sich dieser Bereich momentan stark entwickelt.
Die oben genannten Modelle gelten bereits als veraltet, es gibt schon wieder neue Modelle.
Deshalb möchte ich euch heute keine komplexen Installationen vorstellen, sondern eine einfache und verständliche Lösung, die jedem einen Einblick bietet, was mit 4-Bit-quantisierten Modellen möglich ist, die nur auf der CPU laufen, nämlich GPT4All.
GPT4All macht es dem Nutzer besonders einfach, sich einen kleinen Überblick über einige Open Source Sprachmodelle zu verschaffen.
In der Download-Liste erhält man sofort einen Überblick darüber, welche Modelle kommerziell genutzt werden dürfen und welche nicht.
Ich möchte vorab erwähnen, dass alle Modelle, die nicht kommerziell genutzt werden dürfen, zum aktuellen Zeitpunkt eine schlechte Leistung erbringen, aber das kann sich aufgrund der raschen Entwicklung jederzeit ändern.
Einen ungefähren Überblick, wie gut die Modelle sind, könnt ihr euch auf der Seite von GPT4All verschaffen.
In meinem Fall hat sich das Sprachmodell Snoozy als am besten erwiesen, auch mit der deutschen Sprache gab es hier weniger Probleme.
Ihr könnt GPT4All ganz einfach hier herunterladen und selbst einen Überblick verschaffen.
Es gibt auch einige Serverversionen, die ich auf GitHub gefunden habe und die auch GPUs unterstützen.
Es gibt auch etwas ansprechendere Benutzeroberflächen, aber ich denke, das Gesamtpaket ist für die meisten am besten.
Nach der Installation von GPT4All auf eurem PC fragt es euch nach den herunterzuladenden Modellen, hier habt ihr freie Auswahl.
Wie ihr in der Auswahl sehen könnt, sagt euch das Programm, welche Modelle kommerziell genutzt werden können. Ich denke, es ist klar, warum Snoozy, das auf LLaMA basiert, nicht kommerziell genutzt werden kann.
Nach der Installation des Modells solltet ihr in den Einstellungen (dem Zahnrad oben rechts) festlegen bei "Application" wie viel Threads von euer CPU genutzt werden dürfen.
Bei "Generation" könnt ihr Einstellungen wie die Temperatur festlegen, was euch in diesem Beispiel ermöglicht festzulegen wie "genau" oder eher variabel die Antworten sein sollen.
Ich wünsche euch auf jeden Fall viel Spaß beim Testen von GPT4All, und ihr könnt gerne eure interessantesten Antworten in den Kommentaren teilen.
Ich habe zum Beispiel gelernt, dass Pellkartoffeln sich hervorragend dazu eignen, in Quark gekocht zu werden, aufgrund ihrer cremigen mehligen Konsistenz.
Aber wie man sehen kann, kann das von mir getestete Modell bereits, ganz passabel Übersetzen und Rechtschreibung korrigieren, einfache Programmieraufgaben und Fragen bewältigen, schon ganz okay, aber Rezepte sind nicht gerade seine Stärke.
Test
Prompt: Welche Kartoffeln Festkochend oder Mehlig eignen sich für Pellkartoffeln mit Quark? Antworte auf Deutsch
Response: Pellkartoffeln mit Quark sind eine traditionelle dänische Speise, die aus Kartoffeln und Quark (einer Art von Joghurt) besteht. Festkochende oder mehlige Kartoffeln eignen sich gut für Pellkartoffeln, da sie einen hohen Anteil an Stärke enthalten, der beim Kochen mit Quark reagiert und den Kuchen fest macht.
Prompt: Wieso ist der Himmel blau?
Response: Der Himmel scheint blau, weil die Erdatmosphäre einen Teil des Sonnenlichts absorbiert, während der Rest durchdringt und in den Weltraum entweicht. In der Atmosphäre wird das Licht von Molekülen und Gasmolekülen absorbiert, wodurch es in Richtung Erde reflektiert wird. Der blaue Anteil des Sonnenlichts wird durch die Erdatmosphäre absorbiert, während der grüne Anteil durchdringt und in den Weltraum entweicht. Dadurch erscheint der Himmel blau.
Prompt: Wie entstehen Babys?
Response: Babys entstehen, wenn ein Spermium (eine Samenzelle) mit einem Ei (Ovum) vereinigt und sich dann zu einem Embryo entwickelt. Der Prozess der Befruchtung beginnt, als ein Mann und eine Frau Geschlechtsverkehr haben, bei dem der Spermium in den Vaginalbereich gelangt. Wenn ein Spermium mit einem Ei fertig wird, kann es sich zu einem Embryo entwickeln, das dann in die Gebärmutter des Weibes wandert, wo es weiter wächst und sich weiterentwickelt.
Prompt: Übersetze diesen Text ins Englische:
Ich lebe auf dem Land und habe das Problem, dass der Nahverkehr kaputt gespart wurde. Leider ist unsere Infrastruktur hier nicht Staatlich und der Staat lagert lieber an private Unternehmen aus, um sich nicht um die Infrastruktur so zu kümmern, wie er sollte.
Dies hat zufolge, dass finanziell unattraktive Strecken nicht in der gleichen Flexibilität wie mit dem Auto erreicht werden kann, manchmal kann sogar die Zeit für die gleiche Strecke deutlich länger gehen als mit dem Auto, es kann so schlimm werden, dass es sich fast mit dem E-Bike fast schon mehr lohnt, sein Ziel zu erreichen.
Meine Hoffnung ist, dass der Staat einsieht, dass er sich um den Erhalt einer ordentlichen zukunftsträchtigen Infrastruktur kümmern muss und wenn er sich dafür selbst in die Verantwortung nimmt und Gesetze erlässt. Ich bin jedenfalls Froh, dass unser Wasser nicht privat ist und voller Chor und unbezahlbar. Um unsere Straßen hat sich die CSU ja auch gut gekümmert. Vielleicht schafft es eine andere Regierung ja auch mit dem Nahverkehr.
Response: I live in the countryside and have a problem because the public transportation has been cut back. Unfortunately, our infrastructure here is not state-owned and the government prefers to outsource it to private companies instead of taking care of it as they should. As a result, financially unattractive routes cannot be reached with the same flexibility as by car, sometimes even the time for the same route can be significantly longer than by car, it can get so bad that it almost seems more efficient to reach your destination by e-bike. My hope is that the government realizes that they need to take care of a future-oriented infrastructure and if they take responsibility themselves and pass laws. I am at least glad that our water is not privatized and full of chlorine and unpaid. As for our roads, the CSU has done well with them. Perhaps another government will also be able to handle public transportation.
Prompt: Schreibe ein Hello World Programm in C++
Response:
#include
using namespace std;
int main() {
cout << "Hello, world!" << endl;
return 0;
}
Prompt: Korrigiere die Rechtschreibung dieses Textes: ich finde Das gibd euch einnen sönen einblik in die Mölichkeiten.
Response: Ich finde das gibt euch einen sonnen einblick in die Möglichkeiten.