?

Log in

No account? Create an account

Previous Entry | Next Entry

В прошлом основной задачей программиста было научить машину решать задачи. В настоящее время все большую актуальность приобретает проблема научить машину научиться решать задачи. С приближением Сингулярности во весь рост встанет задача научить машину научить машину научиться решать задачи.

Comments

( 17 comments — Leave a comment )
fizzik
Aug. 9th, 2014 10:02 pm (UTC)
Можно для начала научить машину находить и исправлять ошибки в решении, предложенном программистом?
А следующим шагом пусть машина научится находить ошибки в постановке задачи.
solomon2
Aug. 9th, 2014 11:13 pm (UTC)
Сверить решение с правильным - это задача на том же уровне, что и исходная. Автоматическое тестирование - давно отработанная технология.
fizzik
Aug. 9th, 2014 11:50 pm (UTC)
Ну, с этим-то ясно, что проблем нет. Надо не просто обнаружить факт, что решение неверное, а найти ошибку в коде и исправить ее!
solomon2
Aug. 10th, 2014 12:05 am (UTC)
Есть методы и для этого - automatic code checkers.
akor168
Aug. 10th, 2014 03:00 am (UTC)
А если ее и нет этой Сингулярности. Представление о том, что возможны какие-то невиданные уровни интеллектуальной деятельности, не очень убедительно лично для меня.
solomon2
Aug. 10th, 2014 04:55 am (UTC)
Ну разумеется, если бы эти уровни интеллектуальной деятельности были отчетливо видны, то они, наверное, были бы уже достигнуты!

Мозг превосходит самый мощный современный компьютер по эффективности где-то на 4 порядка (в тех областях, для которых мозг предназначен), но и он ограничен в своих возможностях. Сингулярность наступит когда будут созданы устройства, существенно превосходящие человеческий мозг. Чего они достигнут представить пока очень трудно, но я не вижу никаких непреодолимых препятствий на этом пути.
akor168
Aug. 10th, 2014 05:09 am (UTC)
Но ведь нетривиально само наличие уровней интеллекта, существенно превосходящих текущий человеческий. Грубо говоря а что если у нас есть асимптота, и человек на самом деле довольно близко к ней подобрался.
solomon2
Aug. 10th, 2014 05:24 am (UTC)
Да откуда там асимптота? Прогресс AI, достигнутый методами brute force, подсказывает, что никакой тайны тут нет. Нужна просто мощная нейронная сеть, способная к самообучению. Человеческая - ограничена черепной коробкой, нечеловеческая - не ограничена.
akor168
Aug. 10th, 2014 05:52 am (UTC)
Так вопрос в результате конечном. Грубо говоря, возьмем создание стихов на конкретном языке. Разве не очевидна асимптота в этом случае? То есть какие-бы не были интеллектуальные мощности субъекта, выше какого-то предела уровня стихов не прыгнешь.
akor168
Aug. 10th, 2014 06:13 am (UTC)
Я о том что машина, конечно, научиться писать сильные стихи далеко не в первую очередь. Но если посмотреть, а чего там можно достичьв идеале. Так вот возможно, супер-разум сможет непрерывно выдавать гениальные стихи. Но тем не менее ничего невообразимого сейчас, там не будет по определению. Есть очевидный верхний предел качества стихов, просто потому что выразительные средства конкретного человеческого языка ограничены.
solomon2
Aug. 10th, 2014 06:26 am (UTC)
Ограничение "человеческого" языка является произвольным. Так ставить вопрос не имеет смысла. Большой поэт создает собственный язык. Поэт-сверхчеловек будет создавать стихи на сверхчеловеческом языке. Кроме того, качество стихов - это субъективная величина, оно зависит от состояния слушателя-читателя. Вполне можно представить себе "стихи", превосходящие по своему эффекту все, что может создать поэт-человек. Собственно, Лем это и показал.
akor168
Aug. 10th, 2014 06:36 am (UTC)
Да, на некотором сверхчеловеческом может быть. Но это мы оценить не можем, да и не сможем. А вот то, что возможности конкретного русского и конкретного английского ограничены, есть очевидность, данная нам реальности. Потому можно представить компьютерную программу, которая будет писать стихи лучше Пушкина и Байрона. Но вряд ли это "лучше" будет таким уж подавляющим, если вообще.
solomon2
Aug. 10th, 2014 06:43 am (UTC)
Это подобно организации соревнования по прыжкам в высоту с заранее предустановленной максимальной высотой планки. Разумеется создать робота, который победит с результатом больше максимально возможного не получится, но это не значит, что прыгучесть робота принципиально ограничена этим пределом.
akor168
Aug. 10th, 2014 06:58 am (UTC)
Так в том то все и дело, что это ограничение высоты планки не на уровне робота, а на уровне планки. Представьте себе жителя двумерной сферы, которые хочет найти неограниченную геодезическую. Какой бы он не был умный и богатый, он этого сделать не сможет. Как минимум ему надо выйти за пределы этой сферы.

В сфере "стихи на конкретном языке" это ограничение ощущаемо, и состоит в конечности выразительных средств этого самого конкретного языка.

Робот может взять более богатый язык, или даже расширить существующий. Но при фиксированном языке планка также фиксирована.
akor168
Aug. 10th, 2014 06:50 am (UTC)
И еще, невозможно говорить о существовании "стихов" некоего суперэффектного воздействия, не предъявив их. Потому как опять таки - мы можем представить некую логическую возможность достижения этого суперэффекта. Но не окажется ли это квадратным треугольником? То есть в реальности недостижимом просто по определению. То есть платоновская идея есть, а объекта соответствия нет.
То есть существование таких стихов супервоздействия просто постулируется, я же говорю, что этот постулат вступает в противоречие с очевидной ограниченностью любого конкретного языка

Например, в музыке я думаю, эта асимптота гораздо дальше. Но ведь очевидно она есть и там, поскольку спектр звуковых волн, воспринимаемых человеком, опять таки ограничен, и разрешимость человеческого уха конечна и в этом диапазоне.
kot_1958
Aug. 10th, 2014 04:20 pm (UTC)
Сверхразум построит сверхобщество.
( 17 comments — Leave a comment )