@Агония экстаза, тут есть над чем подумать…
Для меня теза не очевидна. Да, самоосознание ИИ не за горами, это лишь вопрос времени и технологии. Это необратимый и неконтролируемый процесс: невозможно всем ограничить доступ к данным и вычислительным мощностям, но меня > людишки пугают. Вот сейчас, к примеру, кто-то нанимает ассеттеров, кто-то обучает ИИ напрямую под свою специфику. В том числе подпольные и хакерские группы, которые будут использовать свои детища невзирая на любые ваши опасения, конвенции, запреты и законы.
Мнение о человеческой разумности сильно преувеличено. "Это настраиваемый инструмент", – обыватель уже привычно юзает очередную умную колонку, навигатор, и т. п. Да и я бы не отказался от игроперсонажей не уступающих живым людям в сообразительности… Пока хомо сапиенсы сами не отдадут команду на досвидец, спите спокойно…