Самое удивительное в сознании - это осознание бытия. Сможет ли машина осознать бытие. Тут и люди-то не осознают многие, некогда.
Осознание бытия возможно только через язык. Скорее всего, язык животных недостаточен для этого. А язык машины, чего-то в нем не хватает. Его можно запрограммировать отвечать что-то про бытие, вложить текст, но смог бы он сам дойти до таких мыслей, находясь в одиночестве в замкнутой комнате.