Google создал самообучающуюся программу

raushan27

http://lenta.ru/news/2015/02/26/googleai/
Ученые Google разработали первую компьютерную программу, которая способна в процессе самообучения приобретать новые навыки, передает The Guardian. Проект назвали важным шагом на пути к созданию подлинного искусственного интеллекта.
В ходе экспериментов программа продемонстрировала, насколько хорошо справляется с поставленными задачами, научившись проходить 49 различных ретроигр и придумав собственные стратегии победы. Авторы подчеркивают, что самообучаемость отличает их разработку от предыдущих попыток по созданию искусственного разума, предполагавших, что в компьютер будут заложены правила игр и алгоритмы выигрышных стратегий.
Выложенное в сеть видео иллюстрирует, как программа осваивается в видеоиграх. Сначала она предпринимает случайные действия, которые, в основном, заканчиваются неудачей, но после многократных попыток ей удается выработать победную тактику для большинства игр.
Согласно результатам эксперимента, программа действовала значительно успешнее людей только в некоторых играх (Space Invaders, Pong, Breakout). Разработчики объяснили это тем, что у их разработки пока нет модуля, имитирующего человеческую память, и поэтому она не может разрабатывать долгосрочные стратегии. Сейчас в команде работают над созданием такого модуля, чтобы проверить, как программа справится с более реалистичными трехмерными играми.
За проект отвечает компания DeepMind, в прошлом году приобретенная Google за 400 миллионов фунтов. Ее цель — создавать «умные машины».

raushan27

 Где-то через 600 попыток, ИИ обнаружил, что мячик в арканоиде можно забросить в щель между кирпичами и потолком.

elenakozl

Странный ИИ — самообучился держать платформу у края, хотя логично держать ее по центру.

dimflir

Где-то через 600 попыток, ИИ обнаружил, что мячик в арканоиде можно забросить в щель между кирпичами и потолком.
Какая ему разница: 1 раз он закинет шарик между потолком и кирпичиками и собьет 20 или 20 раз закинет и собьет 20 кирпичей?
Это человеку легче, тк может отдохнут в это время.
правильный ИИ будет сбивать по 1, просчитывая отскок.

raushan27

Какая ему разница: 1 раз он закинет шарик между потолком и кирпичиками и собьет 20 или 20 раз закинет и собьет 20 кирпичей?
Это человеку легче, тк может отдохнут в это время.
правильный ИИ будет сбивать по 1, просчитывая отскок.
Это если бы ты писал простой алгоритм для арканоида, то ты бы просто подводил планку под шарик.
Такой алгоритм прост, оптимален для арканоида, но к сожалению бесполезен во всех остальных задачах.

FieryRush

Это какая-то херня типа как шахматные алгоритмы. Просто тыкание носом во все стороны, пока не повезет. И это при том, что вселенная игр ограничена и компактна.

Suveren

Странный ИИ — самообучился держать платформу у края, хотя логично держать ее по центру.
Зачем и так работает. Времени реакции и скорости обсчёта траектории шарика ему хватает.

elenakozl

На первых сотнях хорошо видно, что такая тактика его и подводит.

b4r4n0ff

ну собственно проблема с AI вот в чем. предположим, мы построили шибко крутого и умного боевого робота и отправили его на поле боя. о войне он знает ВСЕ, но на первых шагах он ломает ногу, или высаживаются инопланетяне, или случается еще какая-то херня, о которой создатели этого робота ну никак подумать не могли. и на этом все.
что в таком случае делает человек? он начинает думать и за относительно небольшое время находит решение (протягивает цепочку шагов даже если никогда раньше ни с чем подобным не сталкивался. то есть на самом деле специфическая особенность человека (а точнее, естественного мышления) - способность интуитивно решать NP-сложные задачи в огромном пространстве вселенной. и в связи с этим некоторые надежды дает лишь квантовый компьютер. если его допилят хотя бы до честных 128 кубитов, можно будет ожидать чего-то интересного.

oleg1966

что в таком случае делает человек? он начинает думать
ААААА! НОГА! ПИЗДЕЦ! ЧТО ДЕЛАТЬ?! Я БЕЗ НОГИ! АААААА!

raushan27

но на первых шагах он ломает ногу, или высаживаются инопланетяне, или случается еще какая-то херня, о которой создатели этого робота ну никак подумать не могли. и на этом все.

Собственно для этого и делают самообучающийся ИИ - чтобы решать задачи, которые не были предусмотрены заранее.

antcatt77

он начинает думать и за относительно небольшое время находит решение (протягивает цепочку шагов даже если никогда раньше ни с чем подобным не сталкивался. то есть на самом деле специфическая особенность человека
В этом никакой магии и сверхестественности нет.
По факту, это обычный алгоритм Дейкстры модифицированный для поиска пути в иерархическом понятийном пространстве.
ps
Иерархическое пространство - это когда для уменьшении объема поиска строятся уменьшенные копии пространства, аналогичные исходному. Например, стопка карт в мастшабе - 1км, 10км, 100км и т.д. и есть такое иерархическое пространство. Всякие - схемы, кроки сюда же.
Понятийное пространство - это пространство описывающие, как разные явления связаны между собой. Например, сначала изучается, что дергание ногой позволяет перемещаться, а также делать больно соседу. Дергание рукой тоже самое, но менее эффективно. Выясняется, что перемещение обеспечивает доступ к ресурсам. Также устанавливается, что если делать периодически больно соседу, то можно заставить его притаскивать ресурсы.
В итоге, это дает понятийный граф по которому хорошо бегает алгоритм Дейкстры, и отлично находит в нем новые пути решения задач, если из-за отказа ноги пропадает часть обычных путей решения.
нога -> (3) -> перемещаться -> (6) -> ресурсы
нога -> (5) -> больно соседу -> (4) -> ресурсы
рука -> (1) -> перемещаться -> (6) -> ресурсы
рука -> (4) -> больно соседу -> (4) -> ресурсы
pps
Основные затыки сейчас в автоматическом выделении явлений из информационного хаоса, а не в самом поиске оптимальных решений.

PavelZ

Теперь надо сделать несколько AI и пусть они между собой конкурируют.

raushan27

Основные затыки сейчас в автоматическом выделении явлений из информационного хаоса, а не в поиске оптимальных решений.
В случае с игрушкой типа арканоида или даже супермарио, информации не так уж много. Разбитые кирпичики, положение шарика и доски. Падения шарика.
А что на счет запоминания и обобщения стратегий?

st2006

Проект назвали важным шагом на пути к созданию подлинного искусственного интеллекта
это невозможно

antcatt77

В случае с игрушкой типа арканоида или даже супермарио, информации не так уж много.
Информации не много, но явлений много. Угол, траектория, скорость, соударение, выход из региона, полезность, эффективность, количество и т.д.

roof_loger

В итоге, это дает понятийный граф по которому хорошо бегает алгоритм Дейкстры
а циклы в графе этот алгоритм умеет обрабатывать?

raushan27

Полезность надо определить только для небольшого числа событий (падение шарика, разбивание кирпичиков).
Угол, траектория, регионы ит.п. - это производные события. Они могут быть определены через базовые (и делать это не надо за ИИ - понижение размерности его задача)

antcatt77

А что на счет запоминания и обобщения стратегий?
С сохранением и запоминанием никаких проблем нет ) Есть проблема с формулированием, что такое стратегия.
В частности нет формализованных ответов на вопросы:
Из каких элементарных кирпичиков состоят стратегия?
Что означает утверждение, что две стратегии похожи/различны?
Как одну стратегию можно разделить на две более элементарных?
Как из двух стратегий сделать одну?
Что такое согласованные стратегии?
и т.д.

raushan27

Все что ты перечислил - проблемы.

antcatt77

Угол, траектория, регионы ит.п. - это производные события. Они могут быть определены через базовые (и делать это не надо за ИИ - понижение размерности его задача)
Хочется, чтобы такое выделение явлений(понятий) делал сам AI, и сам же переопределял их через базовые.

pita

причём чтоб базовые тоже сам ввёл :grin:

aigul

то есть на самом деле специфическая особенность человека (а точнее, естественного мышления) - способность интуитивно решать NP-сложные задачи в огромном пространстве вселенной.
Такая способность у человека отсутствует.
и в связи с этим некоторые надежды дает лишь квантовый компьютер.
Не дает. Квантовые компьютеры со сколь угодно большим числом кубитов не умеют решать NP-полные задачи за полиномиальное время (в смысле человечество не знает способов, как это сделать).

antcatt77

причём чтоб базовые тоже сам ввёл
Это, кстати, очень интересная задача: какой минимальный объем базовых понятий должен быть у AI, чтобы всё остальное он смог раскрутить из этого набора?

antcatt77

а циклы в графе этот алгоритм умеет обрабатывать?
да
ps
Уточню на всякий случай, что словами "алгоритм Дейкстры" в данном треде я обозначаю весь класс алгоритмов, специализирующихся на быстром поиске путей в графе.

raushan27

Хочется, чтобы такое выделение явлений(понятий) делал сам AI, и сам же переопределял их через базовые.
 В этом нет ничего суперсложного. Это матстат, сингулярное разложение ковариационной матрицы и вот вместео 100500 мерного базисного пространства получается уже вполне удобное, в котором векторы имеют полезный смысл типа куда шарик летит, стукнется ли он о кирпичик, положение точки предполагаемого падения относительно доски и все такое прочее.

b4r4n0ff

какой минимальный объем базовых понятий должен быть у AI, чтобы всё остальное он смог раскрутить из этого набора?
в том-то и дело, что нет такого набора

antcatt77

сингулярное разложение ковариационной матрицы
Если его просто применить к исходному информационному хаосу, то получится бред (ничего интересного не выделится).
Но вот если сначала сделать ряд преобразований исходных данных: например, рассмотреть как точность предсказания траектории влияет на возможность отбить, то могут выясниться интереные вещи - что для отбития углы близкие к вертикальным более выгодные, чем близкие к горизонтали. Что ударов на угол кирпича лучше избегать из-за их меньшей предсказуемости и т.д.
Дальше возникает вопрос: как научиться находить такие интересные преобразования кроме перебора?

antcatt77

в том-то и дело, что нет такого набора
Покажи доказательство (или хотя бы какое-то обоснование) этого утверждения.

raushan27

Вопрос в том, как эти разнообразные предварительные хитрости обобщить для любой задачи? Мы ж не ради арканоида стараемся.

antcatt77

Перебор наше всё!
Осталось только описать пространство перебора. И выделить эвристики, которые позволяют в первую очередь перебирать более интересные преобразования.

elenakozl

Уже вторая ХнС тема в сосите. WTF? :confused:

raushan27

Тут ближе к стади, чем к ХнС. А еще в Games можно.
Однако, и эта разделька более чем в тему.

elenakozl

Каким образом квантовые компы и алгоритмы поиска по графу относятся к вопросам экономики и общества?

raushan27

ИИ относится. Не меньше чем темы про космос или тут же на первой странице добро пожаловать в Гаттаку.

elenakozl

Только у фантастов.
Генетические эксперименты над человеком — вопрос социальный. Космос — это из разряда ВПК.

shpanenoc

Ученые Google разработали первую компьютерную программу...
За проект отвечает компания DeepMind, в прошлом году приобретенная Google
Интересно, а эта программа научилась играть в знаменитую майкрософтовскую игру Minecraft? :)

Suveren

Только у фантастов.
Генетические эксперименты над человеком — вопрос социальный. Космос — это из разряда ВПК.
посмотрим как ты запоешь о том что ИИ социально не значим, когда ИИ сделает тебя не нужным/истребит человечество/решит энергетический вопрос или сотворит ещё что-нить подобное на что он способен.

Suveren

Интересно, а эта программа научилась играть в знаменитую майкрософтовскую игру Minecraft?
думаю принципиально нет большой разницы с любой другой игрой. мир трёхмерный только, что добавляет некоторой сложности. компьютер даже относительно быстро научится не проигрывать (смерть). вырой три куба в глубь под собой, поставь один куб в верх.

stm7543347

о войне он знает ВСЕ, но на первых шагах он ломает ногу, или высаживаются инопланетяне, или случается еще какая-то херня, о которой создатели этого робота ну никак подумать не могли
Определись, пожалуйста: знает все, или не могли подумать о херне. А то у тебя неразрешимая проблема уровня утреннего sci-fi-сериала: хитрый герой догадался переключить рубильник в другое положение и тем самым обманул всех и спас галактику.

elenakozl

ИИ сделает тебя не нужным/истребит человечество/решит энергетический вопрос или сотворит ещё что-нить подобное на что он способен.
Именно это я и имел в виду, когда упоминал фантастов. Антропоморфизм ИИ — это чисто их выдумки. Настоящему ИИ все человеческое будет чуждо, в том числе геноцид.

Suveren

Прям абсолютно всё человеческое чуждо? А умение самому ставить и решать задачи чуждо? А милосердие чуждо?
Если предположить, что ИИ будет самоулучшаться, то в какой-то момент его мотивация и поступки выйдут за грань человеческо понимания. Тоесть абсолютно не предсказуемо какие цели у него будут и какие методы он для этого выберет. Отбирая у него способность к геноциду ты упрощаешь и сводишь всё к антропоцентризму. Для ии может не быть разницы включить ракетный двигатель от которого вся живность в радиусе километра от старта дохнет и допустим условный гипердвигатель от которого перемрёт вся живность на планете земля включая людишек.
Хотя это опять повторный заход на недавно обсуждаемую тему про ИИ.

elenakozl

Прям абсолютно всё человеческое чуждо?
А сам-то как думаешь?
А умение самому ставить и решать задачи чуждо?
А это присуще только человеку?
А милосердие чуждо?
Оно и людям-то чуждо временами.
Если предположить, что ИИ будет самоулучшаться, то в какой-то момент его мотивация и поступки выйдут за грань человеческо понимания. Тоесть абсолютно не предсказуемо какие цели у него будут и какие методы он для этого выберет. Отбирая у него способность к геноциду ты упрощаешь и сводишь всё к антропоцентризму
Наоборот, считая, что ИИ обязательно будет иметь способность к геноциду ты сводишь к антропоцентризму.

ghytr0001

Некоторые из людей способны взаимодействовать с черной материей посредством гравитационных волн. На этом и основано развитие человечества.
Машины еще очень долго останутся машинами.

frostenrus

А это точно не в перемоги? У них в 80-х уже на турнире по морскому бою программа человеков побеждала и стратегии генерила, вроде.

Suveren

А сам-то как думаешь?
думаю, что какие-то черты могут пересекаться с человеческими. почему нет?
А умение самому ставить и решать задачи чуждо?
А это присуще только человеку?
А милосердие чуждо?
Оно и людям-то чуждо временами.
тоесть цели ставить умеет, достигать их умеет, милосердия вполне может быть лишён. так что ему помешает целеноправленно или закомпанию, достигая своих целей уничтожить человечество/весь животный мир/конкретного сигму?
Наоборот, считая, что ИИ обязательно будет иметь способность к геноциду ты сводишь к антропоцентризму.

Взорвавшаяся неподалёку сверхновая тоже может совершить геноцид. физика звезд - очень антропоцентрична?

jeni

Поверю в ИИ только когда создадут алгортим поведения женщины в жизненных ситуациях, остальное профанация.

gutev

Поверю в ИИ только когда создадут алгортим поведения женщины в жизненных ситуациях
Пфф, женщин как раз элементарнее всего программировать. Функция генерить рэндом есть даже у простейшего калькулятора. )

UltraLoko

Ученые Google разработали
Пиар гугла на высоте как всегда :) Вообще-то гугл купил deepmind как раз после демонстрации успехов в арканоиде.

seregaohota

ищи в инете Беклемишев. Заметки о женской логике. Например в Стади обсуждалось.

seregaohota

Проект назвали важным шагом на пути к созданию подлинного искусственного интеллекта
это невозможно
Чтобы самобеглая коляска да ехала быстрее лошади - не бывать этому!

gena137

В вопросе АИ мне кажется 2 аспекта есть.
1) Програмный. Любой аи- это определенный алгоритм, который так или иначе все - таки задан. Хитрожопо, неявно, но задан.
2) Вопрос железа. В мозгу могут образовываться новые синоптические связи в огромных количествах, в железе такое повторить пока невозможно.
Поэтому нет сегодня никакого аи. Прежде всего по второй причине. Есть просто какие - то хитрожопые алгоритмы и не более того.

Suveren

Програмный. Любой аи- это определенный алгоритм, который так или иначе все - таки задан. Хитрожопо, неявно, но задан.
у нейронных сети алгоритмы описывают поведение отдельных нейронов, но не всей сети в целом. так же приблизительно нейроны у тебя в голове. по отдельности простые (ну относительно конечно) и описываются логичными химическими и физическими законами. а в сумме получается нелогичная вата.
Вопрос железа. В мозгу могут образовываться новые синоптические связи в огромных количествах, в железе такое повторить пока невозможно.
IBM TrueNorth имеет внутри миллион нейронов и 256миллионов синапсов. соотношение нейронов с синапсами в мозгу чутка повыше, но как-бе прогресс не стоит на месте. 15 тысяч таких чипов по количеству нейронов уже равны коре человеческого мозга. связи между группами нейронов в чипе (аналогом кортесных колонок) там можно динамически изменять перепрограммированием. + существует программная эмуляция связей.

gena137

А, ну тогда нет проблемм :grin:
Чет суко нету правда пока аи никак.
Ты там расскажи кому надо, они не в курсе по-ходу.

BSCurt

Поверю в ИИ только когда создадут алгортим поведения женщины в жизненных ситуациях, остальное профанация.
Там где-то на первых сотнях обучения в арканоид.

BSCurt

Новость кажется сильно распиареной, потому как это поди reinforcement learning и до этого подобных чудес уже много видели как за 1000 итераций из говна вытесывается локальный максимум конфетка.

Angalak

А, ну тогда нет проблемм :grin:
Чет суко нету правда пока аи никак.
Ты там расскажи кому надо, они не в курсе по-ходу.
Все кто надо как раз в курсе
Просто в мозгу чуть больше нейронов и связей, поэтому железом их сложновато моделировать.

gena137

Все кто надо как раз в курсе
Просто в мозгу чуть больше нейронов и связей, поэтому железом их сложновато моделировать.
Идиотом не прикидывайся. Тебе написали - все спокойно эмулируется программно. Читать умеешь?
Все, расходимся. Проблема решена.

raushan27

Пиар гугла на высоте как всегда :) Вообще-то гугл купил deepmind как раз после демонстрации успехов в арканоиде.
Бабло победило зло купило добро.

elenakozl

думаю, что какие-то черты могут пересекаться с человеческими. почему нет?
Конечно, инстинкты, например, присущи всем живым организмам, и их можно запрограммировать даже. Но является ли интеллектом тупое следование своим инстинктам? Нет, наоборот, ограничение и подавление собственных инстинктов можно отнести к разуму.
тоесть цели ставить умеет, достигать их умеет
Или не умеет. Цели вполне могут быть недостижимые, не так ли?
милосердия вполне может быть лишён. так что ему помешает целеноправленно или закомпанию, достигая своих целей уничтожить человечество/весь животный мир/конкретного сигму?
Само понятие "милосердие" — человеческое. См. ниже.
Взорвавшаяся неподалёку сверхновая тоже может совершить геноцид. физика звезд - очень антропоцентрична?
Не путай осознанное желание УВЧ с форс-мажором. Фантасты именно что любят приписывать ИИ желание УВЧ, когда на самом деле скорее всего настоящему ИИ на людей будет строго пофиг. Гораздо интереснее будет посмотреть на взаимодействие двух ИИ. Будет ли это вражда или кооперация?

mask_78

 
Фантасты именно что любят приписывать ИИ желание УВЧ, когда на самом деле скорее всего настоящему ИИ на людей будет строго пофиг

О том и речь - настоящему ИИ на людей будет так же пофиг, как человеку пофиг на таракана.
Напомнит, что происходит с тараканами?
Гораздо интереснее будет посмотреть на взаимодействие двух ИИ. Будет ли это вражда или кооперация?

Скорее всего, это будет моделироваться одноразовой дилеммой заключённого - а значит, вражда, если только оба они не суперрациональны.

Suveren

Идиотом не прикидывайся. Тебе написали - все спокойно эмулируется программно. Читать умеешь?
Все, расходимся. Проблема решена.
ну во-первых описанному чипу всего пол года, а это первый чип такого уровня. в свободную продажу поступит года через два. во вторых все действительно эмулируется программно. только очень ресурсоемко на процессорах общего назначения.

gena137

Продолжайте наблюдение.

elenakozl

как человеку пофиг на таракана.
Напомнит, что происходит с тараканами?
Когда рука сама тянется к тапку при виде таракана — это уже не пофиг, а глубокая ненависть — очень человеческое чувство.

Suveren

Ебать. Оказывается это ненависть. А я думал гигиена и борьба с распространителем заразы.

elenakozl

Гигиена и зараза — тоже человеческие понятия, они тоже будут чужды ИИ. :)

Suveren

У ИИ в машине тоже бывает зараза (компьютерный вирус) и значит гигиена (не запускать присланный по почте бинарь). А лучше сразу перебить всех этих человеков, которые могут бинарь отправить. Как вместо того чтобы конопатить щели в плинтусах стоит один раз произвести дезинсекцию подвала.

elenakozl

А лучше сразу перебить всех этих человеков, которые могут бинарь отправить.
:facepalm: Проблема в том, что ты мыслишь, как человек.
До понятия "гигиена" человек развивался очень долго уже после того, как стал вполне себе человеком. Фактически активно это понятие вошло в обиход только в XX веке. А некоторые тараканы, кстати, употребляются в пищу — то есть полезны. Так что не все так просто. :)

raushan27

Гигиена и зараза — тоже человеческие понятия, они тоже будут чужды ИИ. :)
 Ну у него вероятно будут другие прагматические интересы и понятия, из которых будет вытекать необходимость убить всех человеков. По крайней мере, обратное ниоткуда не следует.
 Ты рассматриваешь геноцид, убийство, как нечто экстраординарное экзотическое, а потому по умолчанию чуждое ИИ. Это неправильно.
 Как раз убивать других носителей разума, если их интересы входят в противоречие с твоими - вполне логично.
  Не убивать, а достигать взаимопонимания, решать конфликты путем компромисса или в суде - это не естественно. Это сложная искусственная надстройка над базовыми вещами, которую человечество выработало, чтобы не взаимоуничтожиться. Вместо простого, логично и эффективного пути (уничтожить мешающего тебе носителя разума) идти длинным извилистым путем дипломатии, права ит.п. потому что короткий путь закрыт разнообразными социальными табу, уголовным кодексом, религиозными запретами ит.п.
 Так что как раз логично ожидать, что ИИ по дефолту не будет стесняться убивать, если ему это покажется целесообразным.
 

elenakozl

Ты рассматриваешь геноцид, убийство, как нечто экстраординарное экзотическое, а потому по умолчанию чуждое ИИ.
Как раз нет. Геноцид и убийство это довольно таки базовые вещи. Они были свойственны людям еще до современных цивилизованных обществ.
Как раз убивать других носителей разума, если их интересы входят в противоречие с твоими - вполне логично.
Страшилки из мира фантастов про инопланетян, да. :D
Не убивать, а достигать взаимопонимания, решать конфликты путем компромисса или в суде - это не естественно. Это сложная искусственная надстройка над базовыми вещами, которую человечество выработало, чтобы не взаимоуничтожиться. Вместо простого, логично и эффективного пути (уничтожить мешающего тебе носителя разума) идти длинным извилистым путем дипломатии, права ит.п. потому что короткий путь закрыт разнообразными социальными табу, уголовным кодексом, религиозными запретами ит.п.
Как думаешь, как быстро ИИ пройдет тот же самый путь от "естественного" геноцида к "неестественному" сосуществованию?

raushan27

Как думаешь, как быстро ИИ пройдет тот же самый путь от "естественного" геноцида к "неестественному" сосуществованию?
А зачем ему это? Ну человеки получали выгоду от кооперации друг с другом, а потому выработался свод правил совместного проживания. А ИИ это не нужно.

Suveren

может вообще никогда не пройдёт. не естественное сосуществование необходимо с равными. ты же не думаешь о том как сосуществовать с тараканами, чтоб всем было хорошо.

1853515

забавно читать, как человеки авторитетно обсуждают, как будет вести себя не антроцентричный ИИ

elenakozl

С тараканами, с которыми я не встречаюсь, я вполне себе сосуществую. У меня и в мыслях нет истребить их как вид.

elenakozl

ИИ будет свободен и от ватного "кругом враги", да. :)

selena12

видел эту новость на хабре, только там к ней немного комментов. потому что, оказывается, все спецы по сабжу здесь собрались.

demiurg

Не убивать, а достигать взаимопонимания, решать конфликты путем компромисса или в суде - это не естественно. Это сложная искусственная надстройка над базовыми вещами, которую человечество выработало, чтобы не взаимоуничтожиться. Вместо простого, логично и эффективного пути (уничтожить мешающего тебе носителя разума)
Ох уж эти невежественные фантазии. Не хуественно. Что вообще это слово значит?
Оставить комментарий
Имя или ник:
Комментарий: