Бунт машин через 25 лет

gutev

Уходящий год был переломным на пути создания искусственного интеллекта
В начале 1980-х журнал "Тайм" провозгласил "Человеком года" (Man of the year) - ЭВМ. Таким образом в общественном сознании было зафиксировано: мир вступил в эру всеобщей компьютеризации. Сейчас уже не выглядит шуткой высказывание одного из американских сенаторов. Узнав, что система СОИ (стратегическая оборонная инициатива, известная больше как концепция "звездных войн") требует мгновенно действующих компьютеров для принятия решения - а это фактически исключает вмешательство президента США в этот процесс, - он предложил во время президентских выборов 1984 года избрать на пост главы государства компьютер системы управления вооруженными силами США. А ведь в то время эра компьютеризации по-настоящему еще только-только начиналась...
Между тем сегодня уже совершенно серьезно выдающиеся ученые предупреждают о возможном захвате планеты искусственным интеллектом.
В марте 2000 года соучредитель и ведущий ученый компании Sun Microsystems Билл Джой предостерегал, что объединение генной инженерии и компьютерной технологии несет реальную угрозу человечеству и экосистеме. По его словам, последние достижения в области молекулярной электроники означают, что к 2030 году "мы, вероятно, сможем создавать машины в миллион раз мощнее современных персональных компьютеров" и наделять их интеллектом на уровне человеческого. "Возможно, что созданные мною инструменты помогут построить технологию, которая займет место нашего биологического вида. Мне очень неприятно думать об этом", - подчеркнул Билл Джой.
Можно по-разному относиться к подобного рода прогнозам, но факт остается фактом: уже созданы роботы, мозг которых эквивалентен примерно пятистам нейронам человеческого мозга. Этот показатель превосходит, например, интеллектуальную мощь некоторых червей (их мозг обслуживают около 20 нейронов). Для сравнения: в мозгу пчелы - около 100 тыс. нейронов.
Итак, уходящий 2005 год стал своеобразной "точкой перегиба": с одной стороны, 25 лет назад началась эра персональных компьютеров; с другой стороны - через 25 лет, вполне вероятно, персональные компьютеры достигнут в своем развитии уровня человеческого интеллекта. Как мы об этом сможем узнать? Очень просто. На этот случай существует знаменитый тест Тьюринга. Допустим, интервьюер сидит за компьютерным терминалом, соединенным через стену с другим человеком или с машиной, которые проходят тест (опрашивающий не знает, кто за стеной). Если интервьюер ошибается, принимая реплики, генерируемые компьютером, за человеческие, то считается, что машина прошла тест. Это стоит отметить. Мы попросили наших экспертов ответить на три вопроса:
1. Какие наиболее важные события произошли в компьютерной индустрии в 2005 году? Ваш прогноз на 2006 год: чем удивят инженеры и разработчики?
2. Как вы относитесь к утверждению, что "Сеть и есть компьютер"? Некоторые эксперты утверждают, основываясь на этой посылке, что данная концепция кардинально изменит в не таком уж и далеком будущем весь внешний облик и принципы функционирования ПК, в частности, отпадет надобность в жестком диске.
3. Рэй Курцвейл (Ray Kurzweil известный писатель, футуролог, технолог, недавно поспорил, что к 2029 г. компьютеры достигнут такой стадии технологического совершенства, что смогут выполнить знаменитый тест Тьюринга и, таким образом, придется констатировать, что искусственный интеллект (AI) создан и способен имитировать поведение людей. Что вы думаете по этому поводу?
...
Эксперты думают здесь: http://www.rambler.ru/db/news/msg.html?mid=6975891

raushan27

На самом деле не такой уж и лол, как может показаться. Почитал мнения специалистов (в статейке по сцылке). О захвате планеты, к их чести, они не говорят, об этом говорят журналисты. А вот в том, что мир изменится до неузнаваемости - в этом они солидарны... современный человек не в состоянии охватить сколько-нибудь существенную долю всей полезной информации, специализация, знание бесконечно многого о бесконечно малом, уже не спасает. Сначала человек изменял орудия труда, общественное устройство, окружающую среду, в то время как процессы эволюции на фоне скорости этих изменений перестали быть заметны. Приближается время, когда для дальнейшего развития человеку придется менять себя.
Кстати, как вы относитесь к идее перенесения человеческого сознания в железку ?

sever576

Пока перенести сознание не удастся, как я считаю. Потому что сознание еще не настолько объективная и независимая величина, а очень сильно зависит от физиологии в том числе.

Kashtanova

как вы относитесь к идее перенесения человеческого сознания в железку ?
обеими руками "за" !

abp_7756

совершенно серьезно выдающиеся
Это пять.

sidorskys

 
Кстати, как вы относитесь к идее перенесения человеческого сознания в железку ?
С описанной точки зрения это ни к чему.
Когда-то человек изготовлял детали, рыл каналы вручную, а теперь это неизмеримо эффективнее могут сделать технические средства.
Раньше человек приобретал новое знание своими мозгами, а потом его будет добывать ИИ.
И человек своим разумом уже просто не сможет постичь таких уровней познания, а будет пользоваться только результатами.
Совершенно необязательно себя переносить в железо и дальше трансформировать куда-то свой разум.
А так идея о перенесении сознания хорошая, бессмертие всё-таки, новые возможности.

zuzaka

и тут возникает вопрос, к сосайти, правда, отношения не имеющий, зато очень меня волнующий: почему ты считаешь, что копирование твоего разума в комп даст тебе бессмертие? Лично ты-то все равно умрешь

Natalia01

во во,как себе это интересно представляется,закрыл глаза,а потом открыл,а ты уже в железке что ли?

zuzaka

тут просто не все так просто. Ты сейчашний - это воспоминания как того, который смертен, так и того, который в компьютере. И в кого ты реализуешься - черт знает.
Треп моего препода в школе натолкнул меня на эту мысль, я ее уже обдумываю лет семь. Обсуждал со знакомыми, даже с форумчанами. Кучу забавных идей придумал. Но к ответу, которому я сам бы поверил, так и не пришел.

valba657

Сразу вспомнился "Рой" Крайтона

Eniya74

Что-то больно гладко выходит - 25 лет и разумные машины на ладони.
Между хорошим компьютером и мыслящим компьютером - пропасть, и вероятнее всего нам её никогда не преодолеть.
Может быть компьютеры и сумеют к 2030 научится понимать речь, в это верится.. но мыслить - никогда.. а уж как человек и подавно - в нас, людях, слишком мало формальной логики доступной машине..
А с тестом Тюринга, AFAIK, переврали.. там вроде как про то, что если с машиной можно говорить любоее время (в пределе бесконечное) и не понять, что говоришь с железякой, то тогда она проходит тест Тюринга.

antcatt77

> в нас, людях, слишком мало формальной логики доступной машине..
Совсем не понятно, почему ты думаешь, что компьютеры через 25 лет будут, до сих пор, работать только в терминах формальной логики.
ps
Сейчас формальная логика используется только потому, что она сильно проще (что позволяет уложить в секунду машинного времени - более менее разумное число операций).

angel_18

А на чем основываются твои утверждения о "никогда не преодолеть"? Подумай, и ты поймешь, что это всего-то попытка не смотреть фактам в лицо. Посмотри на темпы развития этой отрасли; учти, что разговоры о том, что производительность процессоров подошла к пределу - это только разговоры.
К тому же, очень-очень настораживает, что к этой проблеме подходят действительно со всех сторон.

vovan07

Производительность процессоров это одно дело, а создание искусственного интеллекта совсем другое

gutev

Физиологию наверное можно просчитать?

gutev

Лично ты-то все равно умрешь
"Ты"-это что такое?
Информация, записанная в мозгах, или организм, с обменом веществ?

angel_18

И что? Ты внимательно прочитал, что я написал? Производительность-то наращивается именно с целью создания ИИ.

gutev

Между хорошим компьютером и мыслящим компьютером - пропасть
видимо такая же, как между живой и неживой материей.
Возможно ли создать искусственную жизнь? Не методом клонирования, а на другом носителе.
Или жизнь-исключительно привилегия белковых тел?

sidorskys

 
и тут возникает вопрос, к сосайти, правда, отношения не имеющий, зато очень меня волнующий: почему ты считаешь, что копирование твоего разума в комп даст тебе бессмертие? Лично ты-то все равно умрешь
Тут возможны варианты, философствоать можно долго.
Смотря как будет переноситься разум? И что значит, перенести разум? Что значит "бесмертие", что значит "уникальность", что значит сохранение самого себя...
Является ли человек в 60 лет собой же от 10/20/30/т. д. лет? Насколько обычный мозг/тело нужно поменять, чтобы это уже был другой человек, а прежний как бы "постепенно умер"? А если человека скопировать с точностью до атома, то кто это будет? А если скопировать, перенести куда-то, а оригинал разрушить (телепортация пресловутая)?
...............
В общем, я думаю, чисто теоретически можно представить себе способ перенесения разума, при котором я соглашусь, что это буду именно я, хоть и на другом носителе, а не копия после моей смерти.

sidorskys

Зато прикинь, если носитель кардинально лучше, как потом развиться можно!
Прежний разум в итоге покажется как мышь по сравнению с человеком.

sidorskys

 
Возможно ли создать искусственную жизнь? Не методом клонирования, а на другом носителе.
Или жизнь-исключительно привилегия белковых тел?
А это смотря как "жизнь" определишь...
Если химическую, но неуглеродную, то хрен знает.
Если какие-нибудь хитроумные механизмы за жизнь принять или виртуальные модели, то всяко можно, в принципе, по крайней мере.

antcatt77

> тут просто не все так просто. Ты сейчашний - это воспоминания как того, который смертен, так и того, который в компьютере. И в кого ты реализуешься - черт знает.
каждый вечер ложась спать - ты умираешь.
утром просыпается - уже другой ты.

gorjelin



С описанной точки зрения это ни к чему.
Когда-то человек изготовлял детали, рыл кавналы вручную, а теперь это неизмеримо эффективнее могут сделать технические средства.
Раньше человек приобретал новое знание свими мозгами, а потом его будет добывать ИИ.
И человек своим разумом уже просто не сможет постичь таких уровней познания, а будет пользоваться только результатами.
Совершенно необязательно себя переносить в железо и дальше трансформировать куда-то свой разум.
Здесь речь уже восходит к вопросу о познаваемости мира (лично я считаю, что мир познаваем не зависимо от уровня развития машин и т.п.).
Конечно, опасность для человечества налицо (не через 30 лет, конечно, но через 50-100). Но в этом есть и позитив для человека. Ведь наряду с угрозой, развитие машин представляет собой и вызов человеку, стимул для развития. Конечно для человека бесперспективно наращивать скорость мыслительных процессов. Но это и не к чему. Ведь разум - это только часть сущности человека. Дух, душа, физическое тело - только в сочетании эти элементы начинают синергировать. И именно этот синергизм ставит человека вне конкуренции и вне досягаемости ИИ.

Nefertyty

Сдаётся мне, цивилизация раньше закончится.

sidorskys

А почему ты считаешь, что у ИИ не может быть духа, души?
Да и вообще. утверждения, что машина принципиально не может перегнать человека, имхо, весьма сомнительны.

gorjelin


А почему ты считаешь, что у ИИ не может быть духа, души?
Да и вообще. утверждения, что машина принципиально не может перегнать человека, имхо, весьма сомнительны.

Всё просто. Проявление объективно существующих законов. В данном случае философский закон отрицания-отрицания. Если человеку удастся создать машину наделённую душой и духом (! то он ...сравняется с Богом.
Мы можем сколько угодно наращивать развитие процессоров. Но это ни на шаг не прилижает нас к познанию собественной сущности. Мошины можно научить думать (как было сказано, лет через 30 но о создании души никто ДАЖЕ не помышляет в принципе.
Пока машины обречены, на то, чтобы оставаться "мегадумалками", утилитами. Они опасны, но примерно так, как молоток - им можно стукнуть себя по голове (утрирую, конечно).

antcatt77

Самое главное - совсем не понятно, куда дели из рассмотрения киборгов.
например, что-то типа робокопа - тело металлическое, мозг - био, в мозгу, в добавок, носится туча нанороботов-медиков.
Особых качественных проблем для такого решения не видно, в отличии - от полного переноса сознания в железо.
Есть только количественные:
1) массовое создание и программирование нанороботов
2) массовая стыковка: нервы <-> провода

sidorskys

А что если люди и вся их история существуют лишь для того, чтобы созлать истинный венец творения - наделённые душой и мыслящие машины? Может, таков на самом деле замысел Бога.

antcatt77

Да, и в борьбе машина против человека, скорее всего, победит человек-машина: к мозгу, напрямую подключен компьютер - мозг занимается восприятием и обработкой общей картинки, комп - занимается проработкой деталей.

raushan27

Нда. Именно про Mind-Mashine-Interface речь была. Вживление чипов с БД, киборги это не обязательно сверх-живучие тупые исполнители воли создателей, как их рисует индустрия развлечения. Киборгом можно назвать человека, который свои мыслительные способности усилил заменив чипами то, в чем мозг уступает машине - объему и качеству хранения информации (хотя спорно скорости вычислений, надежности и сбое-устойчивости... Получаем "обычного" с виду человека, но с очень высокими интелектуальными возможностями ... такие киборги вероятнее всего не будут послушными полуроботами, скорее наоборот, они быстро вырвутся в элиту и будут править устаревшими натуральными людями... и, быть может, правят уже (параноя).

raushan27

С описанной точки зрения это ни к чему.
Когда-то человек изготовлял детали, рыл кавналы вручную, а теперь это неизмеримо эффективнее могут сделать технические средства.
Раньше человек приобретал новое знание свими мозгами, а потом его будет добывать ИИ.
И человек своим разумом уже просто не сможет постичь таких уровней познания, а будет пользоваться только результатами.
Совершенно необязательно себя переносить в железо и дальше трансформировать куда-то свой разум.
А так идея о перенесении сознания хорошая, бессмертие всё-таки, новые возможности.
По поводу выделенного фрагмента вспоминается замечательное высказывание а.Смита (не того, который Адам, а того, который агент)

sidorskys

Запамятовал что-то, какое?
Кстати, на тему, в Аниматрице была интересная фраза: "Да будут отпущены грехи людей и машин".

raushan27

Цитата из первоначального сценария :
Я говорю "ваша цивилизация" условно, потому что
как только мы начали думать за
вас, все вокруг стало на самом деле нашей
цивилизацией.

Satellite

уже созданы роботы, мозг которых эквивалентен примерно пятистам нейронам человеческого мозга
У человека нейронов миллионы. Я конечно вырос в атмосфере восхищения темпами прогресса, особенно компьютерного. Но чтобы за 25 лет наука и техника совершила такой скачок? Сомневаюсь.
Даже если так будет: что значит "эквивалентен". Понятно, что машина не сможет стать человеком. Но она может стать лучше него. Как животные делают что-то лучше нас, так машины могут думать лучше нас.
Душу повторить не удастся, всё во Вселенной уникально, и нет одинаковых даже червей. Не то, что мыслящих существ. Вот создать нечто новое, круче души, наверное, можно.

stm7543347

За двадцать пять лет производительность выч. систем возрастет в девяносто тысяч раз. 500*90000 - вот и получаются десятки миллионов.

Satellite

Под "эквивалентностью" имеется в виду именно производительность? А не что-то другое? Почему современные ПК не сравнивают с нейронами, а только этих суперсовременных роботов?

raushan27

Боюсь экспоненциальный рост - это не навсегда. Потолок существует, т.к. измельчение врядли пойдет даже до уровня атомов. Сейчас рост производительности - по большей части ликвидация разного рода бутылочных горлышек, т.е. улучшение не наиболее продвинутых частей вычислительной системы, а наиболее медленных + распаралеливание.
Просто когда возможности прогресса будут исчерпаны, прогресс пойдет в другом направлении. Так в 19 веке серьезные ученые считали, что в будущем передвижение по воздуху будет осуществляться с помощью очень больших и очень быстрых ... дирижаблей, даже когда появились первые аппараты тяжелее воздуха их долго не воспринимали всерьез.
Вобщем закон Мура доживает последние годы, лет через несколько (если они есть у человечества) произойдет какое-нить революционное открытие (или уже произошло) и инвестиции потекут в другую область, а с ними и усилия ученых. Не исключено, скажем, что новым направлением штурма станет био и генная инжинерия.

antcatt77

> Вобщем закон Мура доживает последние годы, лет через несколько
несовсем понятно - откуда это следует, экстенсивный(увеличение числа ядер) путь развития - еще только начинается.
на несколько десятков лет - его точно хватит.

natunchik

> Если человеку удастся создать машину наделённую душой и духом (! то он ...сравняется с Богом.
Офигенный аргумент. А хочешь, я расскажу тебе про способ создать даже не машину, а сразу живое существо, наделённое разумом (не знаю про душу/дух, не представляю себе методов проверки как-то)? Способ прекрасный, надёжный, скорее всего, ты вполне сможешь им воспользоваться.
ЗЫ: Между прочим, это не только подъёбка, но и намёк на ту замечательную особенность процесса Создания Нового, которая заключается в том, что некоторые способы созидания вовсе не требуют детального понимания процесса или свойств создаваемого объекта.

gutev

Например определим как: гены+всё остальное, производное от генетической информации.
Гены-биологическая форма кодирования информации, организм-надстройка к ним, эволюционно изменчивая.
Если в программе прописать базовые принципы организации живой материи, то материал носителя будет не принципиален. Информационная среда типа интеренета-первичный бульон, где проходит инкубационный период искусственной жизни.

gutev

души нет, по последним научным изысканиям.

gutev

Это почему?

sever576

тебя обманули -)

gutev

Киборги-это не искусственный интеллект, это сверхлюди.

natunchik

Не. Киборги это недолюди.

Nefertyty

Проблемы в развитых странах накапливаются и замалчиваются.
В том числе с фундаментальной наукой, без которой ИИ не построить.

raushan27

несовсем понятно - откуда это следует, экстенсивный(увеличение числа ядер) путь развития - еще только начинается.
на несколько десятков лет - его точно хватит.
Экстенсивный то он есть, а вот какую он прибавку к производительности даст?
Производительность от распаралеливания растет иногда логарифмически, иногда совсем никак, иногда падает , а вот задачи на которых рост хотя бы линеен - скорее редкость. Можно конечно давать разным процессорам разные процессы, друг с другом мало связанные, тогда рост производительности оптимален. Но когда речь идет об решении одной сложной задачи - все именно так плохо. Т.е. резерв - раз в 10 - 15 при колосальном распаралеливании (типа нескольких сотен процессоров)

zuzaka

ребят, не поймите неправильно, но смешно, честное слово. Все ваши посты мне в ответ - это мысли, которые пришли в голову в первый же день обдумывания, на первом курсе. Или в 11 классе. Это вопросы, которые задавали все люди, с кем я это обсуждал. Вы серьезно думаете, что за пять минут сумеете внятно разрешить проблему?

stm8886619

ты подожди ещё, не одному тебе такие мысли в детстве приходили в голову

igor196505

А можно напомнить, о каком знаменитом тесте Тьюринга идёт речь?

stm7543347

А это, увы, знал только Тьюринг. Он никому не говорил и нигде не публиковал методику. История не сохранила деталей его теста, и вряд ли мы уже когда-нибудь сумеем его воссоздать...

sidorskys

А можно напомнить, о каком знаменитом тесте Тьюринга идёт речь?
RTFA
На этот случай существует знаменитый тест Тьюринга. Допустим, интервьюер сидит за компьютерным терминалом, соединенным через стену с другим человеком или с машиной, которые проходят тест (опрашивающий не знает, кто за стеной). Если интервьюер ошибается, принимая реплики, генерируемые компьютером, за человеческие, то считается, что машина прошла тест.

antcatt77

> Все ваши посты мне в ответ - это мысли, которые пришли в голову в первый же день обдумывания, на первом курсе. Или в 11 классе.
На чем основывается такое высокое самомнение? откуда берется увереность, что только ты один думал на эту тему?
> Вы серьезно думаете, что за пять минут сумеете внятно разрешить проблему?
на данный момент, ты пока даже саму проблему не сформулировал.

antcatt77

> Но когда речь идет об решении одной сложной задачи - все именно так плохо. Т.е. резерв - раз в 10 - 15 при колосальном распаралеливании (типа нескольких сотен процессоров)
Смысл в том, что практическим применением распределенных программа - пока занимались очень и очень мало, т.к. увеличение производительности программы в 2-4 раза (а больше пока процессоров на большинство задач и не ставят) - затраты на разработку параллельности не окупают.
Вот когда будет процессоров 20-1000 под одну задачу - тогда и будет всплеск параллельного программирования.
ps
В целом, очень немного практических задач - которые плохо паралелятся.

antcatt77

> Киборги-это не искусственный интеллект, это сверхлюди
Что киборгам мешает быть, как мозг+ИИ, а не просто как мозг+электронные инструменты?
ps
пока ведь очень хорошо заметно, что человек лучше решает новые задачи, а компьютер(недоИИ) - лучше решает стандартизованные задачи, соответственно - как раз и имеет смысл соединять в одно целое - человека и вот такой ИИ.

stm7543347

мозг+электронные инструменты
Это уже сочинитель IDM получается.

zuzaka

мое самомнение основывается на том, что эти мыли пришли мне в голову в первый же день. Я нигде не говорил, что я один думал на эту тему. Напротив, со временем я обнаружил, что эта проблема именно в том виде, в котором ее рассматривал я, обсуждается учеными и философами примерно тридцать лет. Может, больше. Естественно, заранее я этого не знал. Как бы то ни было, думали вы на эту тему или нет - вы задаете самые простые вопросы.
> на данный момент, ты пока даже саму проблему не сформулировал.
сформулировал. Только не в этом треде. Год назад уже обсуждал в Сосайети, и в одной из зон, по-моему.

antcatt77

> сформулировал. Только не в этом треде. Год назад уже обсуждал в Сосайети, и в одной из зон, по-моему
так повтори, или хотя бы ссылку дай.
глядишь - может и народ за год повозмужал, мысли в голову умные понатаскивал.

zuzaka

ломает. Потом как-нить. Народ и в прошлом году много интересного напридумывал, я учитываю опыт того общения

gorjelin



души нет, по последним научным изысканиям.
Насмешил. Автора, ссылки на источник. Хоть ознакомлюсь с истиной в последней инстанциии.

dimas922

- Смотрел я однажды у пруда на лягушек, - говорил он, - и был смущен
диаволом. И начал себя бездельным обычаем спрашивать, точно ли один че-
ловек обладает душою, и нет ли таковой у гадов земных! И, взяв лягушку,
исследовал. И по исследовании нашел: точно; душа есть и у лягушки, токмо
малая видом и не бессмертная.

Cалтыков-Щедрин

gutev

переломи себя, найди сцылку. интересно же.

sidorskys

В Планете обезьян (2001 года) был весьма любопытный эксперимент по поиску души у человека.

dimas922

И что там было? Не помню это кино. Отстойное, имхо. В отличие от книжки.

sidorskys

Там одна героиня сказала, что у людей есть душа, на что генерал Тэйд схватил прислуживавшего человека, раскрыл ему пальцами рот почти до разрыва, заглядывает туда, и говорит: "Ну и где же там... душа?!".

dimas922

Вот я и говорю, тупое кино. В книжке соплей про душу не разводили.

rjhgec

живая материя основана на уникальных свойствах углерода, а в современных компах он вапще не используется
да и вапще ИИ невозможен, ибо не существует в отрыве от контекста реальности.

gutev

живая материя основана на уникальных свойствах углерода
Самоорганизующаяся живая материя в конкретных физических и химических условиях планеты Земля. В других условиях она, предположительно, будет организовываться по другому.
"Если бы на поверхности Земли и в атмосфере преобладали иные элементы, то и состав животных и растений был бы другой. На поверхности планет, близких к солнцам, больше тяжелых элементов и потому там в состав организмов должны войти тяжелые элементы. Наоборот, на планетах, удаленных от солнц, вошли бы в организмы более легкие вещества, так как там их больше." (Циолковский)
ИИ невозможен
почему невозможен? сам понял, что сказал, про "контекст реальности"?

sidorskys

 
Самоорганизующаяся живая материя в конкретных физических и химических условиях планеты Земля. В других условиях она, предположительно, будет организовываться по другому.
 
Или вообще не будет.
2shpongle
 
да и вапще ИИ невозможен, ибо не существует в отрыве от контекста реальности
Ну твой ЕИ, я думаю, тоже недолго просуществует без физического тела. Однако ж он есть.

stm6654770

 
да и вапще ИИ невозможен, ибо не существует в отрыве от контекста реальности.
зажигаешь, как обычно
а что вообще существует "в отрыве от контекста реальности"? примеры что ли какие-нибудь, поясни свою мысль, пожалуйста
Оставить комментарий
Имя или ник:
Комментарий: