Das ist eine sehr interessante Frage, die im Grunde eine Ausprägung der Frage ist, wie wichtig die Unterscheidung zwischen "echter" Intelligenz und KI ist bzw. eine Höherstellung der einen gegenüber der anderen moralisch regechttfertigt ist. Wenn KI sich nicht von echter Intelligenz mehr unterscheiden lässt (und die Ansätze dazu sind jetzt schon da, zumindest beim geschriebenen Wort, siehe hier), was ist dann die Rechtfertigung, die eine Form zu diskriminieren? Würde man Aliens, die auf der Erde landen, ebenfalls geringer stellen als Menschen, weil sie kein Gehirn haben, sondern etwas anderes, was sie zu Intelligenz befähigt? Aliens könnten auch so anders sein, dass man (zunächst) gar nicht wissen kann, ob sie biologischen Ursprungs sind, oder Alien-KIs. Es würde keinen Unterschied machen. Daher ist mein Zugang dazu, dass echte AIs den Menschen gleichberechtigt sein sollten. Und umgekehrt würde ich mir wünschen, dass Super-AIs Menschen nicht diskriminieren sollten, aber das würde jetzt zu weit führen.
RE: ChatGPT ist toll, aber...