Форум гитаристов

Пока наука считает, что это реальность и в ближайшем будующем. Создание сильного ИИ (а к этому всё идёт) и будет началом сингулярности. И далее раскол человечества, вымирание социальных пластов и так далее. Точнее, никто не может предсказать, что будет после, это и есть сингулярность: прогресс будет идти так быстро, что предсказать будет ничего нельзя.

Создание ИИ, который выходит из-под контроля — это обычная техногенная катастрофа, это ничем не отличается от аварии на АЭС, например. Ну, только может, пострашнее. Зачем здесь какие-то новые понятия?

"Вымирание социальных пластов" идёт сколько угодно давно, это тоже частности какие-то. Вымирают и профессии, и народы, и государства и цивилизации перестают существовать. Это всё уже было и есть. Возможны ли глобальные опасные проблемы, для всей планеты? Да, конечно возможны. Но опять, зачем здесь какие-то новые понятия, "сингулярности" и т.д.?

Этот ИИ не сможет мыслить как человек. Но как-то он все же будет мыслить, по каким-то логическим схемам.

Ему не нужно мыслить как человеку, ибо он не есть человек. Тут всё просто.

ИИ не возможен принципиально (всего три минуты):
Мыслить он не может в принципе. Т.н. ИИ - это не мышление.

Я читал "Новый ум короля", там это объясняется более мощно.

Интеллект не равен мышлению, он больше, чем мышление. И теория слабого ИИ такая же теория, как и теория сильного ИИ. Предсказать тут сложно что-либо. Но возможность есть, пока не доказано обратного. Мозг можно представить нейросетью с кучей входов/выходов, если создать такую же (а это теоретически возможно) искусственную нейронку с такими же входами/выходами, задать начальное положение связей как у младенца, да подавать на неё информацию, подобную жизненному опыту человека с рождения, то выйдет ИИ, по сути. Если создать нейросеть, которая в десятки/сотни/миллионы раз больше человеческого мозга, и её обучать на гигантских объёмах данных, то это может стать сильным ИИ.

Если будет создан универсальный сильный ИИ, то он сможет, например:

• Вылечить рак, СПИД и всё что угодно
• Продлить людям жизнь до бесконечности за счёт генных модификаций/лекарств/пересадок/киборгизации/тп
• Создать сколь угодно сложные технологии, которые обычные люди и понять не смогут (не отличимых от магии)

Это как пример. Мы не можем предсказать, что можно сделать с помощью сильного ИИ. И не можем на самом деле доказать, можно его создать или нет. И можем даже не распознать, создали или нет.

PS: доказать, что человеческий мозг на самом деле нейронка и без обучения ничего не стоит легко. Достаточно посмотреть на мауглиодов: воспитанные животными люди не проявляют ничего человеческого. В том числе интеллекта.

... и добавил:

Как ИИ может выйти из под контроля? 
Если он ИНТЕЛЛЕКТ (пусть и искусственный), то он уже априори независим. Тогда причем тут контроль?
А если он не независим то он в принципе не интеллект.

Иллюзия контроля. Выйти из-под иллюзии контроля.

ИИ не возможен принципиально (всего три минуты):

  Ну )) во-первых он немного, скажем так, неточно описывает текущий AI. Сейчас АИ совсем не единичная задача с базой данных, и версий и задач в АИ множество и все они решаются по разному. Это и войс рекогнишен, задача вполне так себе можно сказать решенная, т.е. преобразование речи в текст просиходит вполне удачно, иногда машина даже сделает это лучше человека.
Этот спектр задач относится к распознованию образов, там нейронные сети вектор саппорт мешин. Это один спектр задач, и классификация образов просиходит довольно часто, и эти технологии применяются вполне удачно и повсеместно.
translate - переводчики, здесь в принципе тоже дела более ни менее, т.е. переводчиками пользуются все больше, и качество их работы тоже часто вполне удовлетворительное, особенно это касается текстов в научных статьях, и более формализованные. Естесственно с художественными текстами все много сложнее ..

NLP (natural language processing) здесь дела обстоят хуже всего из всего спектра задач АИ. Хотя и тут задачи решаются многими разными способами грамматики вероятностные, грамматики,  теже нейронные сети. Но поговорить с компьютером за жизнь сейчас сложно. Но вот к примеру аналитика сорс кода происходит, есть такая штука как каверити, )) сейчас боты в айти используются довольно широко,

Ну шахматы и прочие вычислительные задачи - давно доказано, что человека машина обходит.
АИ работает уже сейчас, во вполне определденных задачах и в музыке кстати тоже .. уже тыщу лет назад были написаны импровизаторы и построители гармоний - стандартную композицию в свинге + испровизацию в стиле чарли паркера можно наликать за две минуты .. это же касается и простых тривиальных попсовых вещей, там все счетно и примитивно на столько, что машине это сделать проще чем человеку .. 

Ну и никто и не задается целью сейчас во всяком случае заставить машину мыслить, исследования ведутся, и будут вестись все больше .. с появлением квантовых вычислений, возможно тема оживится и заиграет новыми красками.

На счет же подражанию именно человеческому мышлению рассуждать сложно, вопро ведь экзистенциальный, нет критериев отличия сознательного от бессознательного, существует множество теорий про квантовость в работе нейронов, и наличия свободы выбора у живых существ, но вот дальше теоритизирования пойти сложно ..

Если будет создан универсальный сильный ИИ, то он сможет, например:

    это другая сторона баррикад ). Модернистские убеждения, вера в позитивизм и непререкаемую главенствующую роль прогресса, даешь вечную жизнь в этом мягко говоря несовершенном мире.

Ну сказать можно просто, математическая модель нейрона - бесконечно далека от реального нейрона. Так скажем есть определенные основания говорить что обладающее небольшим количеством нейронов существа уже обладают свободой выбора и оно - живое существо. мы же имеем куда более сложные разветвленные и многослойные нейронные сети и не способны дать свободу - это все равно детерминистическая железяка.

... и добавил:

Он будет собой, а вот каким — это уже не важно. Не факт даже, что мы сможем его осознать.

  ага очень очень очень крутой, но все равно - калькулятор.

Языковые игры ему будут недоступны.

  Я бы не стал категорично определять границы возможности, сейчас ужесть есть системы вполне близкие к текстовым запросам на есстественном языке. Вы можете не принимать то, как оно в итоге происходит, но факт ответа на сложно поставленный вопрос есть - практический критерий употребимости данной технологии.

Еще китайская комната как будет преодолеваться?

  Китайская комната - суть определение экзистенциальности проблемы, неважно понимает ли суть проблемы алгоритм АИ так, как понимает его человек, он всего лишь отрабатывает заданные правила, получая допустимый результат. Это и есть задача АИ, а не вдруг родить разум самоосознающий, т.к. в этом "само" и содержится экзистенция.

  Я когда задаю вопрос в смартфон, мне сршенно все равно понимает ли машина или не понимает, что я подразумеваю - она просто переводит и шлет запрос на другом языке и с той стороны комнаты меня поймут, вуаля - задача решена. А еще, если добавят контекстные зависимости которые будут резолвить тему в процессе разговора пойдет еще адаптация перевода в нужную тему, и мышь - переведут не как мышь, а как девайс.

  Это все ИИ, нет математических признаков отличия сильного ИИ или слабого. Даже теоритически ..

Вот все же это выглядит сршенно не так как все себе представляют, нечто такое волшебное.

  допустим NLP на основе грамматик выглядит как набор правил с эмприрически подбираемыми параметрами для того или иного для резолва неоднозначностей,  правила пишут лингвисты ..параметры в идеале подбирают математики, и встраивают некое АМЦ или нейросеть для скручивания тех или иных веток разбора. чтобы в предложении можно было понимать идет речь о человеке, городе, или человеке пароходе ..множество критериев. В итоге получаем разбор, ..который потом можно анализировать на семантическом уровне .. со времен царя гороха принципиально пока не менялось ничего. недостаток этого метода состояит в том, что семантика стоит обособленно, а по идее она должна влиять на синтаксический разбор .. примерно так оно выглядит изнутри

  на базе чистых нейронок (я не сильно знаком с этим процессом), но общий принцип :их обучают на корпусах данных, (вообще с нейронками как часто в математике происходит были разные взлеты и падения, но в общем делят с перцептронов периода до работ Минского, и после ..многослойные с обратными связями - это сейчас по идее, самое последнее что я слышал), это так называемая уже эмпирическая математика ) меняется распределение весов на нейронах и оно работает по другому, .. по идее нейронке сршенно все равно с какими данными работать, она решает одни и теже задачи.
  Что касается сильного АИ, мне кажется это все таки профанация, понимание лежит на человеческой психике, а там есть самоощущение, и как вы формализуете самоощущение, если само явление есть сугубо экзистенциально?
  Логически ? Ну вот как был фильм .. ванильные небеса по моему, там сотрудник фирмы доказывает главному персонажу, что психолог (и ли следователь - не помню) просто плод воображения, тот просто не смог ответить на несколько вопросов .. ну так, столько людей с амнезией, тоже не смогут ответить на такие вопросы. И какой же критерий для определения - о да он осознает себя ?? Наконец-то мы достигли этого? он теперь понимает ))

  Нет разумное поведение - единственный критерий, а вот просто он перекладывает карточки либо нет, никто не знает, и не узнает никогда ..

 

Почему же? Если нейронную сеть нужного масштаба и возможностей обучать языку в таком же объёме, что и человека (нас учат десятки лет, но ИИ можно быстрее), то всё это будет реально. Если нейросеть убеждать, что она личность, она будет личностью.

     Для начала надо доказать, что мыслительный процесс может быть сведен к вычислительному, А я сильно в этом сомневаюсь. Но то, что это недоказуемо, - факт. Для начала надо продемонстрировать объективную реальность.

Я бы не называл поведение большинства (примерно 99.9%) людей разумным. И своё в том числе. Нами руководят внешний опыт, инстинкты и гормоны. А мозг всё это рационализирует. Разумеется, это сильно упрощённо, но суть как раз в этом.

  Сршненно все равно как лично вы будете это называть. Они само-осознают себя, И как вы можете гвоорить, что суть как раз в этом, если доказать\или опровергнуть тот-же солипсизм не в силах. Думаю слишком мало оснований, чтобы говорить в чем суть разума - это свойство 1. живого существа, 2 разумного.

... и добавил:

по сути вы просто оперируете материалистическими позитивистскими взглядами. Может быть модрнистскими .. но они уже свалены на обочину, за недоказуемость

Увы, пока наукой не доказано, что человек есть что-то выше своей физической сущности (тех же нейронов), и всё что есть в человеке — это мозг.

BTW, я не материалист. Мало того, верующий. Но тема уж очень интересная.