Подкину сюда капельку размышлений. Вот сейчас бурно пошел развиваться ИИ и многие по этому поводу справедливо боятся возможного наступления сингулярности. Я последнее время стал немного спокойнее к этому относиться и вот почему. Я пришел к выводу, что качественные характеристики ума можно грубо, но довольно точно разделить на три основные параметра - объём памяти, скорость мышления и логичность мышления. Если с первыми двумя всё довольно ясно, то последнее сложнее для понимания. Но суть можно упростить до следующего - у любой проблемы может быть от нуля до некоторого числа решений. Логичность мышления и определяет на сколько точно интеллектуальный агент на основе имеющихся у него данных определит эти решения. Чем больше в проблеме задействовано переменных и чем больше из них неизвестных тем больше будет решений с различными весами правдоподобности, тем больше областей знаний и ассоциаций должно быть затронуто... Но самое интересное то, что люди похоже очень преуспели в решении социально-психологических "проблем", связанных с коммуникацией, межличностными связями, вербальным взаимодействием... То есть как бы человечество уже знает как решать такие задачи наилучшим из возможных способов (то, что оно этим часто не пользуется это отдельная история). Но я веду к тому, что портрет умнейшего человека в плане коммуникаций во-первых дружелюбен (потому что например даже из теории игр знает, что кооперация выгоднее чем конкуренция), во-вторых мало чем отличается от любого современного человека-психолога. ...И если почитать труды каких-нибудь греческих философов например Платона или Аристотеля, то понимаешь, что они решают те же проблемы что и современные психологи/социологи и причем не хуже последних. То-есть мы почти достигли вершины развития в этом плане тысячи лет назад. Следовательно можно сказать, что умнее чем самые умные из нас в этом плане машина не станет. Она может иметь более объёмный багаж знаний или мыслить скорее, но она не будет сильно логичнее, а это самое главное. Это также значит, что она останется понятной нам. Может она быстро и многократно превзойдет нас в области квантовой физики, но не в области психологии. И именно это меня и успокаивает (немного).
