Es ist doch ganz einfach: "Echte Intelligenz" kann per Definition einzig von Gehirnen der Spezies Homo sapiens generiert werden; alles andere ist bestenfalls als Simulation des ausschließlich unseren Köpfen innewohnenden Originals zu betrachten. :-)

Ich denke, der typisch menschliche Egozentrismus ("Die Erde ist das Zentrum des Universums!", "Die Sonne dreht sich um die Erde!", "Der Mensch ist nicht infolge von Evolution entstanden, sondern wurde - als Krone der Schöpfung - von Gott höchstpersönlich erschaffen.") lässt uns uns schwer damit tun, Computern oder anderen Spezies 'echte' Intelligenz zuzugestehen, obwohl im Prinzip überhaupt nichts dagegen spricht.
Eine menschliche Nervenzelle ist für sich genommen 'strohdumm', aber durch die komplexe Verschaltung von über 80 Milliarden Neuronen entsteht auf wundersame Art und Weise das, was wir als "Intelligenz" bezeichnen. Aliens würden uns möglicherweise erklären, mittels dieser primitiven, auf pure Masse setzenden Strategie würde Intelligenz lediglich simuliert - genau wie wir das über KI zu sagen pflegen. :)

Ich gehe davon aus, dass KI früher oder später eine Art von Bewusstsein entwickeln wird, auch wenn der Weg bis dahin noch weit sein dürfte.

Die Antworten, der von dem von Google deswegen gefeuerten Tester für ein bewusstes Individuum gehaltenen KI, Lamda, sind jedenfalls teilweise schon jetzt einfach köstlich.