суббота, 25 мая 2024 г.

ИИ, сингулярность, вселенная и всякое такое...

 ​Подкину сюда капельку размышлений. Вот сейчас бурно пошел развиваться ИИ и многие по этому поводу справедливо боятся возможного наступления ​сингулярности. Я последнее время стал немного спокойнее к этому относиться и вот почему. Я пришел к выводу, что качественные характеристики ума можно грубо, но довольно точно разделить на три основные параметра - объём памяти, скорость мышления и логичность мышления. Если с первыми двумя всё довольно ясно, то последнее сложнее для понимания. Но суть можно упростить до следующего - у любой проблемы может быть от нуля до некоторого числа решений. Логичность мышления и определяет на сколько точно интеллектуальный агент на основе имеющихся у него данных определит эти решения. Чем больше в проблеме задействовано переменных и чем больше из них неизвестных тем больше будет решений с различными весами правдоподобности, тем больше областей знаний и ассоциаций должно быть затронуто... Но самое интересное то, что люди похоже очень преуспели в решении социально-психологических "проблем", связанных с коммуникацией, межличностными связями, вербальным взаимодействием... То есть как бы человечество уже знает как решать такие задачи наилучшим из возможных способов (то, что оно этим часто не пользуется это отдельная история). Но я веду к тому, что портрет умнейшего человека в плане коммуникаций во-первых дружелюбен (потому что например даже из теории игр знает, что кооперация выгоднее чем конкуренция), во-вторых мало чем отличается от любого современного человека-психолога. ...И если почитать труды каких-нибудь греческих философов например Платона или Аристотеля, то понимаешь, что они решают те же проблемы что и современные психологи/социологи и причем не хуже последних. То-есть мы почти достигли вершины развития в этом плане тысячи лет назад. Следовательно можно сказать, что умнее чем самые умные из нас в этом плане машина не станет. Она может иметь более объёмный багаж знаний или мыслить скорее, но она не будет сильно логичнее, а это самое главное. Это также значит, что она останется понятной нам. Может она быстро и многократно превзойдет нас в области квантовой физики, но не в области психологии. И именно это меня и успокаивает (немного).



2 комментария:

  1. мдамс, "умнее чем самые умные из нас в этом плане машина не станет", а вот станет умнее 99% остальных людей (которые не входят в 1% умнейших) 🌧️😤😭🐞

    ОтветитьУдалить
    Ответы
    1. hinstance, ну мы же как-то можем пережить зная, что кто-то в мире в чем-то всегда нас умнее... Тут другое страшнее - я вот написав сей пост вспомнил, что по теории игр кооперация выгоднее конкуренции, только в условиях равности сил и невозможности убрать конкурента с дороги навсегда... 😅 В общем человечеству капец. Даже если мы научимся переносить сознание в электронный вид, станем сами ИИ, то выгоднее похоже будет всё-равно объединить всё в один единый тучемозг цивилизации (или создать такой с нуля 🤔), что уже привычным нам человечеством скорее всего не будет. С другой стороны ЭТО будет в некотором смысле нашим потомком. Потомки часто не похожи на родителей, умнее и переживают последних. То есть, выходит, можно смириться и с этим. Хотя бы потому, что мы уже мирились с такой ситуацией тысячи миллиардов раз.

      Удалить