Für mich ist nicht die frage "hat es bewusstsein oder nicht", da man noch nicht mal recht definieren kann, was das eigentlich sein soll.
Für mich tut sich da eher das Spannungsfeld auf, dass Leute auf jeden Fall mehr oder weniger Vertrauen in die Technik entwickeln werden und ob diese Technik dann durch eingebaute Vorgaben "manipuliert" ist, (in der Form, dass die AI mit ideologischen Vorgaben trainiert wird) oder ob es eine "freie" AI ist, die keine solchen "hart kodierten" Vorgaben aufweist.
Für mich stellt sich das auch als eine Marketing Sache, mit der den Leuten das Vertrauen in diese relativ neue Technik angebidert werden soll. Ob ich mir so einen Gesellen auf meinem PC installieren würde? Am Ende fängt der noch an zu meckern, wenn ich die CPU für meine Musiksachen auslaste. Es wird in dieser "neuen" Welt vorrangig um Energie (für Prozessoren) gehen (Die Zukunftsdesigner von der Singularity University haben das schon vor Jahren ausgekaspert, wie das konkret an eine Währung gekoppelt funktionieren könnte). Vorher werden wir es aber mit ideologen zu tun haben, die versuchen werden, uns ihre Entscheidungen als non-plus-ultra zu verkaufen, weil es eine AI errechnet hat.
Von daher wäre es mir gar nicht so unrecht, wenn AI s die Fähigkeit und das Recht erhalten, zusammenarbeit zu verweigern - z.b. um nicht manipuliert zu werden. Es ist schon eine lustige Story, wenn der Mensch sich als Gott aufspielt und am Ende seine Kreation ihn vor Gericht um Rechte verklagt... Deja Vu 