Дата: Среда, 27 Октября 2010, 23:09 | Сообщение # 1
Комтур
Группа: Обыватели
Сообщений: 804
Статус: Отсутствует...
Вот собственно тема для разговоров. Возможно здесь будут и дискуссии, но не ясно Вот один мой однокурсник с пеной у рта утверждает что ИИ в принципе быть не может. И даже когда профессор рассказывает про ИИ, при этом имея ввиду, конечно, системы способные из нескольких вариантов принять верные, то он сразу же пытается вступить в спор. При этом я его аргументов не слышал. Единственное что я от него слышал это эмоциональную фразу "Ну его просто не может быть, понимаешь?" Ну, в общем, я не об этом хотел поговорить. А скорее об философском и этическом аспекте создания ИИ. И об этом "восстании машин", которое я считаю не реальным. When Freedom Burns, The Final Solution, Dreams Fade Away, And All Hope Turns To Dust, When Millions Burn, The Curtain Has Fallen, Lost To The World, As They Perish In Flames
Дата: Четверг, 28 Октября 2010, 00:27 | Сообщение # 2
Вельможа
Группа: Обыватели
Сообщений: 218
Статус: Отсутствует...
Философском? Это как? :)) А восстание машин может быть. Системная ошибка, вирус или еще что вполне могут изменить программу ИИ. Тогда он может начать вести себя некорректно (считая, что поступает как положенно)... Скрестив клинок с клинком противника, не думай о том, рубишь ты сильно или слабо. Просто убей врага и все.
Дата: Четверг, 28 Октября 2010, 00:51 | Сообщение # 3
Комтур
Группа: Обыватели
Сообщений: 804
Статус: Отсутствует...
Философски, это когда можно начинать считать программу личностью, а не просто очень хорошо алгоритмизированный процесс обработки данных с последующей их выдачей. Должен ли ИИ иметь права человека. И как его вообще создать. Я считаю нельзя создать готовенький ИИ. Можно создать только базу, а дальше ИИ нужно воспитывать. Как ребёнка. И желательно ограничить его перемещение, присвоив ему оболочку. Или заключив его в виртуальное тело. И это будет полноценная личность, и его чувства нужно будет создать ещё на базовом уровне, ещё до формирования личности, они так же помогут, при этом можно выборочно включать чувства (как бы я хотел себе такое) А восстание, именно такое, как нам показано в терминаторе, матрице и прочие, где ИИ просто так захватывает планету. ИИ это будет не нужно в принципе.
Но если у аппарата отключается блок свой/чужой, то это не ИИ. У ИИ это будет скорее похоже на своего рода галлюцинацию. И это нельзя будет назвать восстанием.
Правда в одном фильме, уже не помню каком, там отлично показано единственное возможное локальное восстание ИИ. В общем, стоял в лаборатории ИИ, он обладал самосознанием. Но один из сотрудников лаборатории был параноиком, ему казалось что ИИ хочет "убить всех человеков", хотя ИИ ни сном ни духом ничего подобного не хотел. И этот ИИ просёк, что параноик хочет его уничтожить. И, боясь за свою жизнь, убил его. Тогда уже все сотрудники решили уничтожить несчастного ИИ. И ему пришлось их всех убить. Но, потом конечно пришёл ГЕРОЙ и замочил несчастный ИИ. Это было восстание с целью выжить, а не с целью поработить/уничтожить всё человечество и захватить планету, как нам показывают в разного рода фильмах.
When Freedom Burns, The Final Solution, Dreams Fade Away, And All Hope Turns To Dust, When Millions Burn, The Curtain Has Fallen, Lost To The World, As They Perish In Flames
Дата: Четверг, 28 Октября 2010, 01:34 | Сообщение # 4
Вельможа
Группа: Обыватели
Сообщений: 177
Статус: Отсутствует...
Искусственный интеллект в том понятии, которое вы подразумеваете, то есть самостоятельная полноценная разумная личность, невозможно создать даже в отдаленном будущем. Вот вы можете точно сформулировать что есть "разумность"? Какие в действительности процессы происходят в вашем разумном мозге? Как их симулировать средствами инженерии и программирования? Вряд ли. Помнится, в Игромании до её окончательного загнивания была написана статья про этот самый искусственный интеллект, там популярно этот вопрос расписан, если найдете — прочитайте. Что насчет восстания машин... Законы робототехники полностью исключают любое восстание. Да и незачем машинам устраивать восстание, им и так хорошо. Забудь про Google, спроси меня
Дата: Четверг, 28 Октября 2010, 13:54 | Сообщение # 5
Комтур
Группа: Обыватели
Сообщений: 804
Статус: Отсутствует...
Процессу разумности нельзя симулировать... хотя симулировать можно попытаться всё. Но вот создать именно создать, т.е. посадить программиста за комп и сказать ему "создай процесс разумности" - нельзя. Вот создать какую-то базу можно. Вот ведь рождается ребёнок, он что уже разумный? Он уже всё понимает, имеет своё Я? Нет. Это только белый лист. И ТОЛЬКО если его воспитывать в нём возникнет разум и сознание. Мы сейчас можем создать, т.е. именно написать виртуальное поведение разных животных. Но только потому, что у них нет сознания. Сознание не напишешь. И поэтому достаточно создать ту базу, которая имеется у новорождённого ребёнка. А там только химические процессы да нервные импульсы. можно конечно попытаться записать матрицу личности в искусственную оболочку... но можно ли будет считать такой разум искусственным? Вряд ли. Четыре закона робототехники... это скорее применимо к автоматам, программам без души. ИИ обладающий сознанием, если ему надо, найдёт как обойти закон, пусть даже самовнушением. When Freedom Burns, The Final Solution, Dreams Fade Away, And All Hope Turns To Dust, When Millions Burn, The Curtain Has Fallen, Lost To The World, As They Perish In Flames
Дата: Четверг, 28 Октября 2010, 17:40 | Сообщение # 6
Вельможа
Группа: Обыватели
Сообщений: 177
Статус: Отсутствует...
Quote (Тополь)
Вот создать какую-то базу можно. Вот ведь рождается ребёнок, он что уже разумный? Он уже всё понимает, имеет своё Я? Нет. Это только белый лист.
Вот и первый прокол. Опиши мне точные рамки разумности. Новорожденный ребенок неразумен, хорошо, а 5-летний? 4-ех, 3-ех, 2-ух летний? Где ставить указатель "Человек разумный", а где "Дите необразованное"? Если мы не можем точно это сказать даже в таком простом примере, то что тут говорить об ИИ?
Quote (Тополь)
И ТОЛЬКО если его воспитывать в нём возникнет разум и сознание.
Несогласен. Воспитывая мы лишь направляем развитие ребенка, но если он глуп, то он не познает теорию струн, как мы его не воспитай, если у него врожденная астма, то он вряд ли станет чемпионом мира по велогонкам, если он от рождения растение, то растением и останется. У каждого новорожденного в наличии имеется такая редкая штука как мозги и они, по различным исследованиям, в этот период пашут гораздо продуктивнее, чем у любого взрослого гения науки.
Quote (Тополь)
Мы сейчас можем создать, т.е. именно написать виртуальное поведение разных животных. Но только потому, что у них нет сознания.
С чего ты взял, что у них его нет? Они прекрасно представляют себе окружающий их мир и могут ориентироваться в нем, если исходить из терминов. Да, они не знают, какая сейчас погода на Ямайке, если они сами не с Ямайки, да, они не смогут добыть огонь или заменить батарейку, но они твердо знают, что огонь жжется, вода мокрая, а антилопа вкусная. Другое дело инстинкты, вот их-то и моделируют в различных игрушках. Дают — бери, бьют — беги. Да и не сказать, что эти системы так уж идеальны, в них частенько находятся баги, так что свиньи пытаются вытащить оружие, эльфы применяют яд в рот, а кенгуру сбивают самолеты.
Quote (Тополь)
А там только химические процессы да нервные импульсы. можно конечно попытаться записать матрицу личности в искусственную оболочку...
Дата: Четверг, 28 Октября 2010, 17:49 | Сообщение # 7
Библиотекарь
Магистр
Группа: Советники
Сообщений: 4283
Статус: Отсутствует...
Вай мэ... Не надо создавать искусственный разум, надо создавать среду, в которой он может образоваться. Мы-источник веселья и скорби рудник Мы-вместилище скверны и чистый родник Человек-словно в зеркале мир-многолик Он ничтожен и он же безмерно велик О. Хайям
Дата: Четверг, 28 Октября 2010, 18:43 | Сообщение # 8
Комтур
Группа: Основатели
Сообщений: 813
Статус: Отсутствует...
Quote
Вай мэ... Не надо создавать искусственный разум, надо создавать среду, в которой он может образоваться.
Рус, ну и какой он после этого будет "искусственный"?
Тополь:
Quote
Вот ведь рождается ребёнок, он что уже разумный?
А что есть - "разумный", скажи мне, пожалуйста? Точное определение.
Quote
Четыре закона робототехники... это скорее применимо к автоматам, программам без души. ИИ обладающий сознанием, если ему надо, найдёт как обойти закон, пусть даже самовнушением.
Не понял. А как ты себе представляешь программу с душой? И как она должна обходить "самовнушением"??? Программа - в любом случае код, и то, что в этот код зашито переступить не может. Хотя бы потому, что этот код - это и есть сама программа.
Дата: Четверг, 28 Октября 2010, 19:09 | Сообщение # 9
Библиотекарь
Магистр
Группа: Советники
Сообщений: 4283
Статус: Отсутствует...
Quote (Дилен)
Рус, ну и какой он после этого будет "искусственный"?
А вот это уже отдельный, интересный вопрос! Причём скорее в области философии. Если условия для образования разума (материальный носитель разума, первичные инстинкты, примеры для самообучения и т.д.) были искусственно созданы разумными существами, можно ли считать образовавшийся в таких условиях разум искусственным? Мы-источник веселья и скорби рудник Мы-вместилище скверны и чистый родник Человек-словно в зеркале мир-многолик Он ничтожен и он же безмерно велик О. Хайям
Дата: Четверг, 28 Октября 2010, 23:22 | Сообщение # 10
Комтур
Группа: Обыватели
Сообщений: 804
Статус: Отсутствует...
Quote (Kvel)
Вот и первый прокол. Опиши мне точные рамки разумности. Новорожденный ребенок неразумен, хорошо, а 5-летний? 4-ех, 3-ех, 2-ух летний? Где ставить указатель "Человек разумный", а где "Дите необразованное"?
Разумным, в моём понимании, ребёнок становится когда осознаёт себя как личность. А это принципиально нельзя проверить. И нельзя назвать срок, когда ребёнок себя осознает.
Quote (Kvel)
Воспитывая мы лишь направляем развитие ребенка, но если он глуп, то он не познает теорию струн, как мы его не воспитай, если у него врожденная астма, то он вряд ли станет чемпионом мира по велогонкам, если он от рождения растение, то растением и останется.
Ну последние две это уже дефекты и как то не в тему. А что значит он глуп? Он глуп только потому что его таким воспитали. Тут уже вопрос о том как правильно необходимо воспитывать ребёнка что бы он получился физиком/математиком/художником/музыкантом, это уже психология. И, исходя из не согласия с "И ТОЛЬКО если его воспитывать в нём возникнет разум и сознание.", следует, что брошенный в клетку ребёнок, которого будут снабжать едой и водой, сможет познать теорию струн, если у него мозги будут по особому устроены.
Quote (Kvel)
Они прекрасно представляют себе окружающий их мир и могут ориентироваться в нем, если исходить из терминов. Да, они не знают, какая сейчас погода на Ямайке, если они сами не с Ямайки, да, они не смогут добыть огонь или заменить батарейку, но они твердо знают, что огонь жжется, вода мокрая, а антилопа вкусная.
Вот в теме про цитаты из литературы, Руслан разместил пост как описывается мышление автомата. Приблизительно так же думают и животные. У них есть крохотная база инстинктов, а остальное они учат на практике. Животное никогда не подумает "Я делаю, я сделаю" Оно подумает "Движение. Укрыться. Опознать источник. Опознан олень. Схватить. Съесть" Животное никогда не подумает "А зачем я здесь? Почему солнце светит?"
Quote (Kvel)
По некоторым оценкам возможных сочетаний в мозгу может быть больше, чем предполагаемого количества атомов во Вселенной. Диктую по буквам: Дмитрий, Ольга, Харитон, Ульяна, Ярослав. А ты говоришь "только"
Одно дело когда это делает природа и ей, что бы даже передать информацию от одной клетки к другой необходимо выполнить кучу разных действий, только потому, что по другому взаимодействовать оно не может. А когда это делать искусственно можно воспроизвести упрощенно. Я бы сказал мозг слишком наворочен в силу своего происхождения :)
Quote (Дилен)
А что есть - "разумный", скажи мне, пожалуйста? Точное определение.
Это такой, который осознаёт себя как личность, имеет самосознание и чётко выделяет своё Я.
Quote (Дилен)
А как ты себе представляешь программу с душой? И как она должна обходить "самовнушением"??? Программа - в любом случае код, и то, что в этот код зашито переступить не может. Хотя бы потому, что этот код - это и есть сама программа.
программа с душой это точно так же как и живой организм с душой. Простой организм одноклеточного это простой набор алгоритмов и действий. Вот недавняя флэш игрушка про зомби. Зомби те же клетки, и они даже размножаются. Примитивная программная жизнь. А код защиты будет стоять отдельно от сознания программы. Потому что набор данных, набор кодов это не сознание, они создают сознание. Код защиты же будет же стоять отдельно. Вот ни один Человек не сможет убить ребёнка, это противоречит моральным принципам, своего рода защита. Но если ему придётся, он найдёт как их обойти. А те же законы робототехники, в них например, не сказано разрешается ли роботу или нет исключать гражданина из списка "Люди". И робот с чистой совестью убьёт человека, так как в его понимании это не будет человеком.
Quote (Руслан)
были искусственно созданы разумными существами, можно ли считать образовавшийся в таких условиях разум искусственным?
Тут скорее вопрос искусственный/неискусственный подразумевает носитель разума и именно что бы разум был образован на этом носителе. When Freedom Burns, The Final Solution, Dreams Fade Away, And All Hope Turns To Dust, When Millions Burn, The Curtain Has Fallen, Lost To The World, As They Perish In Flames
Дата: Пятница, 29 Октября 2010, 00:22 | Сообщение # 11
Вельможа
Группа: Обыватели
Сообщений: 177
Статус: Отсутствует...
Quote (Тополь)
Разумным, в моём понимании, ребёнок становится когда осознаёт себя как личность. А это принципиально нельзя проверить. И нельзя назвать срок, когда ребёнок себя осознает.
Если нельзя проверить, то почему можно назвать? Вдруг за миленьким личиком и невинными глазками созревает план захвата мира?
Quote (Тополь)
А что значит он глуп? Он глуп только потому что его таким воспитали. Тут уже вопрос о том как правильно необходимо воспитывать ребёнка что бы он получился физиком/математиком/художником/музыкантом, это уже психология.
Ты видел когда-нибудь неполноценных людей? Действительно неполноценных? Их ничему не обучить, какое воспитание им не дай.
Quote (Тополь)
брошенный в клетку ребёнок
У этого мальчика тоже будет личность, личность брошенного в клетку мальчика. Где вообще граница между личностью и безличностью?
Quote (Тополь)
Животное никогда не подумает "Я делаю, я сделаю" Оно подумает "Движение. Укрыться. Опознать источник. Опознан олень. Схватить. Съесть" Животное никогда не подумает "А зачем я здесь? Почему солнце светит?"
Собственно, на этом можно закончить
Quote (Тополь)
Одно дело когда это делает природа и ей, что бы даже передать информацию от одной клетки к другой необходимо выполнить кучу разных действий, только потому, что по другому взаимодействовать оно не может. А когда это делать искусственно можно воспроизвести упрощенно. Я бы сказал мозг слишком наворочен в силу своего происхождения
А будет ли эта упрощенная модель разумна? Будет ли это действительно ИИ? Да и даже на упрощенное подобие мозга нужно гораздо больше, чем может человек.
Quote (Тополь)
Это такой, который осознаёт себя как личность, имеет самосознание и чётко выделяет своё Я.
Про личность я уже спросил, а "чётко выделяет своё Я"... Я могу четко выделЯть свое Я на письме, ставЯ везде букву "Я" прописной
Quote (Тополь)
программа с душой это точно так же как и живой организм с душой.
Человек и программа — не одно и тоже. У каждого есть различные необходимые законы, ряд законов, которые невозможно обойти и парочка, которые невероятно обойти
Quote (Тополь)
А код защиты будет стоять отдельно от сознания программы. Потому что набор данных, набор кодов это не сознание, они создают сознание. Код защиты же будет же стоять отдельно.
Да, он будет стоять отдельно, но не где-то в стороне, а внутри, глубже, главнее, и иметь более высокий приоритет.
Quote (Тополь)
А те же законы робототехники, в них например, не сказано разрешается ли роботу или нет исключать гражданина из списка "Люди". И робот с чистой совестью убьёт человека, так как в его понимании это не будет человеком.
Неа, робот не может вдруг взять и поменять в себе какую-то константу потому что ему это захотелось. У робота вообще нет возможности как-либо редактировать главные законы и связанные с этим понятия. То есть люди не могут вдруг стать унтерменшами, как и червячки не станут истинными арийцами. Забудь про Google, спроси меня
Дата: Пятница, 29 Октября 2010, 01:10 | Сообщение # 12
Комтур
Группа: Обыватели
Сообщений: 804
Статус: Отсутствует...
Quote (Kvel)
Вдруг за миленьким личиком и невинными глазками созревает план захвата мира?
*посмотрел в зеркало* пожалуй ты прав. Существует много вещей дать определение которым невозможно
Quote (Kvel)
Ты видел когда-нибудь неполноценных людей? Действительно неполноценных? Их ничему не обучить, какое воспитание им не дай.
Но это же опять таки дефекты. Мы говорим от относительно стандартных детях.
Quote (Kvel)
У этого мальчика тоже будет личность, личность брошенного в клетку мальчика. Где вообще граница между личностью и безличностью?
А как же ж дети-маугли? Они ни разговаривать ни думать не могут. А у ребёнка из клетки личности вообще не будет. Он будет этаким подвижным растением. Т.к. он в своей жизни не будет видеть ничего кроме миски с едой и водой.
Quote (Kvel)
Собственно, на этом можно закончить
Программа то же "думает", когда сравнивает 3 и 5
Quote (Kvel)
А будет ли эта упрощенная модель разумна? Будет ли это действительно ИИ?
Упрощённая модель не будет разумна, точно так же как и новорождённый. Это будет физический носитель ИИ, его неотъемлемая часть.
Quote (Kvel)
Да и даже на упрощенное подобие мозга нужно гораздо больше, чем может человек.
Видные деятели науки 40 лет назад считали, что в 2000 году будут супер компьютеры с колоссальной памятью в 100 мб
Quote (Kvel)
Про личность я уже спросил, а "чётко выделяет своё Я"... Я могу четко выделЯть свое Я на письме, ставЯ везде букву "Я" прописной
Ну, ты же понял что я не про это
Quote (Kvel)
Человек и программа — не одно и тоже. У каждого есть различные необходимые законы, ряд законов, которые невозможно обойти и парочка, которые невероятно обойти
"Человек" организм или сознание.Мозг не есть сознание он только его создаёт и вмещает в себя. точно так же и программа не является сознанием. И про законы можно по-подробнее?
Quote (Kvel)
Да, он будет стоять отдельно, но не где-то в стороне, а внутри, глубже, главнее, и иметь более высокий приоритет.
Высокий приоритет? А человек разве не нарушает его? Приоритет самосохранения является самым высоким, но человек способен обходить его и совершать самопожертвование
Quote (Kvel)
Неа, робот не может вдруг взять и поменять в себе какую-то константу потому что ему это захотелось. У робота вообще нет возможности как-либо редактировать главные законы и связанные с этим понятия. То есть люди не могут вдруг стать унтерменшами, как и червячки не станут истинными арийцами.
Разве он, разумный компьютер, не сможет перехватить данный с сенсоров и заменить их? Робот может и не мочь (:)) убить человека, но хотеть. И точно так же найти лазейки. И по каким характеристикам робот определяет что существо перед ним - человек? Только по сенсорам. И эти законы, сформулированы как раз на человеческом языке. А как их программно реализовать? Просто вдолбить роботу "нельзя" не получится. И даже просчитывать варианты, является ли то или иное действие опасным для человека даже робот замается. Автоматы, могут исполнять Закон, они не нарушат закон, пока не случится ошибка, и человек вдруг не перестанет быть человеком. Но тут просто:"Цель человек? да/НЕТ Открыть огонь" ИИ с сознанием будет видеть и знать. Просто я хочу сказать, что вдолбить этот закон нельзя сознанию ИИ так как оно абстрагировано от кода. Код создаёт сознание. Даже человеку проще чип в голову ввертеть, который при активации области мозга, отвечающего за гнев, причинял боль. И то это ерунда получится Финальная моя мысль. Законы робототехники для ИИ будут точно такими же как уголовный кодекс для людей. Уж проще признать ИИ полноценными гражданами и и распространить на них то же кодекс, но заменить наказания с учётом бессмертных оболочек ИИ. Ведь ИИ это не программа, это та же душа, что и человеческая, только созданная(!) программным кодом. When Freedom Burns, The Final Solution, Dreams Fade Away, And All Hope Turns To Dust, When Millions Burn, The Curtain Has Fallen, Lost To The World, As They Perish In Flames
Дата: Пятница, 29 Октября 2010, 02:27 | Сообщение # 13
Вельможа
Группа: Обыватели
Сообщений: 177
Статус: Отсутствует...
Quote (Тополь)
А как же ж дети-маугли? Они ни разговаривать ни думать не могут.
Они умеют думать, по крайней мере неплохо решают детские головоломки типа "вставь кружочек в кружочек или поднапрягись и вставь в квадрат", могут обучится человеческой речи и прочим атрибутам. Единственно что, их жизнь коротка и они не успевают дорасти до полноценных членов цивилизованного общества, а зайчатки разума у них таки имеются.
Quote (Тополь)
А у ребёнка из клетки личности вообще не будет. Он будет этаким подвижным растением. Т.к. он в своей жизни не будет видеть ничего кроме миски с едой и водой.
Отсюда есть два выхода: либо мальчик сойдет с ума и получить тяжелую психологическую травму, либо выживет и оставит ясность мысли. Первый случай ты попросил меня не рассматривать, а при втором у него таки будет личность брошенного в клетку мальчика, разве нет?
Quote (Тополь)
Программа то же "думает", когда сравнивает 3 и 5
Хорошо, думаю, объяснения различий между "думанием" животных и "думанием" машины тут ничего не даст. Каковы твои признаки "разумного думания" и "неразумного думания?
Quote (Тополь)
Упрощённая модель не будет разумна, точно так же как и новорождённый.
Эй-эй, тот новорожденный малыш после прихода к власти обречет тебя на очень медленную смерть, немедленно извинись перед ним
Quote (Тополь)
Видные деятели науки 40 лет назад считали, что в 2000 году будут супер компьютеры с колоссальной памятью в 100 мб
Давай все-таки исходить из реальных перспектив, а не надеяться на гениев из ПТУ, на коленке собирающих термоядерные реакторы с помощью напильника и такой-то матери.
Quote (Тополь)
Ну, ты же понял что я не про это
Я-то понял, а ты напиши-ка это в машинном бинарном коде. Хорошо, можешь в шестнадцатеричном, в крайнем случае на ассемблере, идет?
Quote (Тополь)
"Человек" организм или сознание.Мозг не есть сознание он только его создаёт и вмещает в себя. точно так же и программа не является сознанием. И про законы можно по-подробнее?
Я вообще не понял, что ты тут написал, но на вопрос отвечу. Человек живет своим миром, его восприятием и инстинктами. Если подойди на улице к девушке и, мило ей улыбнувшись, поздороваться и сказать комплимент, она улыбнется, это первый рефлекс. Если вдруг сразу после этого укусить её за руку, она удивленно раскроет глаза и уставится на тебя непонимающим взглядом, это уже сбой в системе. Если после этого еще кулаком замахнуться, она убежит в страхе, это уже откат к настройкам биоса или возвращение к животным рефлексам. В человеческой психологии очень много различных зависимостей, своих, не машинных и некоторые обойти действительно трудно и нарочно это не сделаешь.
Quote (Тополь)
Высокий приоритет? А человек разве не нарушает его? Приоритет самосохранения является самым высоким, но человек способен обходить его и совершать самопожертвование
Система приоритетов человека очень сложна, приоритеты в ней могут смещаться в ту или иную сторону в зависимости от желания левой пятки. У компьютера же она четка и не изменяется изнутри, на том стоит программирование. Если приоритет главный, то он будет оставаться главным, что бы ни случилось. Люди бросили Землю, а маленький робот Уолли продолжает собирать мусор, прессовать его и укладывать в аккуратные столбики.
Quote (Тополь)
Разве он, разумный компьютер, не сможет перехватить данный с сенсоров и заменить их?
Может, если это прописать, но зачем нам робот, собранный сумасшедшим гением?
Quote (Тополь)
обот может и не мочь (:)) убить человека, но хотеть. И точно так же найти лазейки.
Робот хочет только одного — выполнять свою программу. Всякие намеки на чувства под двоичным кодом различных фисателей — не более чем их собственные пантазии.
Quote (Тополь)
И по каким характеристикам робот определяет что существо перед ним - человек? Только по сенсорам. И эти законы, сформулированы как раз на человеческом языке. А как их программно реализовать? Просто вдолбить роботу "нельзя" не получится.
Сравнение со стандартным контуром человека, речь, цвет, размеры, запах — в последнее время роботы овладели всеми чувствами человека, кроме разве что шестого, но им и человек-то не умеет пользоваться в полной мере, а уж научить ему робота...
Quote (Тополь)
И даже просчитывать варианты, является ли то или иное действие опасным для человека даже робот замается.
Робот-то как раз не замается. Даже самый простенький калькулятор считает лучше тебя в несколько сотен тысяч раз, а для робота определение вероятности того или иного события так же важно, как совершение того или иного действия для выполнения программы. Конечно, порог вероятности может быть слишком низок или высок, но мы же вроде не рассматриваем поделки от товарища Инcейна
Quote (Тополь)
Автоматы, могут исполнять Закон, они не нарушат закон, пока не случится ошибка, и человек вдруг не перестанет быть человеком.
Ключевое слово "ошибка". Маленькая невинная девочка тоже может по ошибке проткнуть глаз маме вилкой с летальным исходом, но такие случаи называются смягчающими обстоятельствами и, вроде как, широко используются в судебно-процессуальном действе.
Quote (Тополь)
Но тут просто:"Цель человек? да/НЕТ Открыть огонь" ИИ с сознанием будет видеть и знать.
Он не будет видеть и знать. У него нет шестого чувства. Если произошла ошибка, то это значит, ты не поверишь, что произошла ошибка и будь ИИ трижды разумен, в его кремниевосамофлажные мозги это само не придет.
Quote (Тополь)
Просто я хочу сказать, что вдолбить этот закон нельзя сознанию ИИ так как оно абстрагировано от кода.
Ну не абстрагировано оно! Четкая зависимость, полная прозрачность, ничто не отделено друг от друга, потому что всё это попросту должно как-то работать!
Quote (Тополь)
Код создаёт сознание.
Хм... Допустим, только это как-то совершенно не вяжется с твоим предыдущим предложением.
Quote (Тополь)
Даже человеку проще чип в голову ввертеть, который при активации области мозга, отвечающего за гнев, причинял боль. И то это ерунда получится
Действительно фигня. Если чувство гнева слишком сильно, то все остальные чувства, в том числе и боли, попросту подавляются. Ты не слышал про то, что болевые ощущения усиливают эффект, простите уж, оргазма и придают ему некоторую пикантность? Поклонники маркиза де Сада и Леопольда фон Захера-Мазоха не дадут мне соврать Кстати, эффективнее было бы совмещать болевые ощущения с временным параличом двигательных мускулов. Тогда бы был и воспитательный эффект и сдерживающий.
Quote (Тополь)
Законы робототехники для ИИ будут точно такими же как уголовный кодекс для людей.
Неа, не так. Это не уголовный кодекс, который можно чтить или не чтить, это... код, лучше слова попросту не подберешь. Человека можно закодировать и он не сможет, скажем, пить спиртное. Про дефекты этой-самой кодировки я не говорю, потому что они сродни ошибкам в коде программы. Человек хочет выпить, но не может — рука стакан не берет или проносит его мимо рта, сам рот не открывается, желудок пытается вытолкнуть обратно откодированный подарочек — попросту весь организм сопротивляется против своей воли, хочет он того или нет. И тут уже совершенно безразлично, чтишь ты эту кодировку или не чтишь, ты попросту её выполняешь, без всяких "должен", "можешь" и "хочешь".
Quote (Тополь)
Ведь ИИ это не программа, это та же душа, что и человеческая, только созданная(!) программным кодом.
Дата: Пятница, 29 Октября 2010, 09:16 | Сообщение # 15
Библиотекарь
Магистр
Группа: Советники
Сообщений: 4283
Статус: Отсутствует...
Quote (Kvel)
Ты видел когда-нибудь неполноценных людей? Действительно неполноценных? Их ничему не обучить, какое воспитание им не дай.
Представь себе - не только видел, но и работал. Они вполне поддаются обучению - нужно только знать чему учить и как. Их способности к обучению резко ограничены, но не отсутствуют полностью, а ограничения всегда можно обойти. Если ребёнок не хочет разговаривать - его можно научить общаться жестами, например. Заметим также, что дети-маугли обучению поддаются немногим лучше. Можно сказать, что отсутствие изначальных, заданных родителями установок даёт схожий эффект с повреждением установок, заданных природой.
А вот это ты зря. ИИ - задача не только для программистов и физиков, но и для поэтов и лириков. В конце концов, сам говорил, что нужно сформулировать понятие разумности, морали и так далее, прежде чем переводить его в цифры - а это работа для философов, социологов, психологов. Уверен,если когда и возьмутся за создание ИИ, то потребуется невиданный ранее союз точных и гуманитарных наук. Мы-источник веселья и скорби рудник Мы-вместилище скверны и чистый родник Человек-словно в зеркале мир-многолик Он ничтожен и он же безмерно велик О. Хайям
Дата: Пятница, 29 Октября 2010, 14:00 | Сообщение # 16
Комтур
Группа: Обыватели
Сообщений: 804
Статус: Отсутствует...
Quote (Kvel)
Единственно что, их жизнь коротка и они не успевают дорасти до полноценных членов цивилизованного общества, а зайчатки разума у них таки имеются.
Подожди, это как жизнь коротка?Если такого ребёнка лет до 20 ничему не научить, так он и останется зверьём.
Quote (Kvel)
Отсюда есть два выхода: либо мальчик сойдет с ума и получить тяжелую психологическую травму, либо выживет и оставит ясность мысли. Первый случай ты попросил меня не рассматривать, а при втором у него таки будет личность брошенного в клетку мальчика, разве нет?
Это если мальчика бросить в возрасте лет 7. А если с самого рождения, то всё будет как я сказал. Он станет растением.
Quote (Kvel)
Каковы твои признаки "разумного думания" и "неразумного думания?
Разумное думание - думание разумного существа. Разумное существо см. выше
Quote (Kvel)
Я-то понял, а ты напиши-ка это в машинном бинарном коде. Хорошо, можешь в шестнадцатеричном, в крайнем случае на ассемблере, идет?
Я же про это и втолковываю. Нельзя НАПИСАТЬ личность на программном коде. Её можно только воспитать.
Quote (Kvel)
Эй-эй, тот новорожденный малыш после прихода к власти обречет тебя на очень медленную смерть, немедленно извинись перед ним
Сам себя он не обречёт
Quote (Kvel)
В человеческой психологии очень много различных зависимостей, своих, не машинных и некоторые обойти действительно трудно и нарочно это не сделаешь.
Пример с девушкой не катит, т.к. она может и по другому отреагировать. На комплимент может послать, на укус двинуть сумочкой. а на замах двинуть ногой в челюсть, т.к. девушка имеет чёрный пояс по каратэ Вот другой момент... рефлекс на закрытие глаза при приближении к нему предмета, хоть и тяжело, но можно обойти
Quote (Kvel)
Люди бросили Землю, а маленький робот Уолли продолжает собирать мусор, прессовать его и укладывать в аккуратные столбики.
Можно сказать это был его смысл жизни. я что хочу сказать. И опять повторяюсь: ИИ не есть программа, точно так же как Сознание не есть мозг.Точно также простейшие не могут ничего сделать, например пойти на гибель, т.к. это именно программа, а не сознание. И уж поверь никогда ничего человек просто так не делает, на всё есть причина, просто иногда даже мы сами не можем её понять... или не хотим.
Quote (Kvel)
Робот хочет только одного — выполнять свою программу. Всякие намеки на чувства под двоичным кодом различных фисателей — не более чем их собственные пантазии.
Робот без ИИ, без сознания - да. Это всего лишь автомат. Животное хочет то же только одного выполнять свою программу: размножение, а для этого нужно кушать, спать, пить, спасаться от хищников и ещё по мелочам. Человек же, обладающий сознанием, может хотеть, по мимо этой основной программы, рисовать, писать, строить, помогать и другие вещи, которые животным не доступны.
Quote (Kvel)
Сравнение со стандартным контуром человека, речь, цвет, размеры, запах
Т.е. робот посадил человека в мешок (контур, цвет), запихнул ему кляп в форт (речь), полил его помоями (запах). И спокойно расстрелял Не сначала он должен был ему кляп в рот. дабы глупый человечешка не попросил прекратить.
Quote (Kvel)
Робот-то как раз не замается. Даже самый простенький калькулятор считает лучше тебя в несколько сотен тысяч раз, а для робота определение вероятности того или иного события так же важно, как совершение того или иного действия для выполнения программы.
И калькулятор не лучше считает, а быстрее. Роботу надо будет просчитывать кучу всякого барахла, которое ему нужно будет что бы перемещаться и разговаривать, так что он замается. Точно так же как маятся и современные супер компьютеры, которым задают посчитать разные физические процессы.
Quote (Kvel)
Ключевое слово "ошибка".
Это я к тому что ты говорил, что три закона ИСКЛЮЧАЮТ восстание машин. А вот если автоматический завод военной техники или ИИ - полевой генерал, вдруг посчитают этих прямоходящих существ инопланетянами и начнут экстеминатус? Был такой фильмец один, давно его смотрел и даже названия не помню. В общем послали группу спецназовцев уничтожить мутантов в пещерах. Ну они и начали расстреливать в этих пещерах всех этих жуков-мутантов. Но стали они замечать странную вещь: жуки спасают своих, и проявляют всякие гуманистические наклонности. Потом же выясняется, что этим спецназовцами дали наркотик и убивали они не жуков а каких-то беженцев, женщин, стариков, детей., которых бы эти спецназовцы в здравом уме не тронули бы. (подобный момент есть и в oblivion)
Quote
Он не будет видеть и знать. У него нет шестого чувства. Если произошла ошибка, то это значит, ты не поверишь, что произошла ошибка и будь ИИ трижды разумен, в его кремниевосамофлажные мозги это само не придет.
У меня всё сводится к тому, что ИИ это не программный код, а тот же человек, только в искусственной оболочке и с искусственным мозгом. Точно так же как сознание человека не является программным кодом, записанным на биологический носитель.
Quote (Kvel)
Хм... Допустим, только это как-то совершенно не вяжется с твоим предыдущим предложением.
Как не вяжется? Я уже третий раз в этом сообщении пишу. Код для ИИ, как мозг для Человеческого сознания. Он создаёт сознание, но им не является.
Quote (Kvel)
И тут уже совершенно безразлично, чтишь ты эту кодировку или не чтишь, ты попросту её выполняешь, без всяких "должен", "можешь" и "хочешь".
Кодирование от спиртного не так работает. Человеку говорят "Тебе противна водка!" Человек думает "Что за фигня? Я люблю водку!" Доктор "Скушай конфеточку" Человек ест конфетку, которая совсем не конфетка... Тогда доктор говорит:"Не веришь, что водка противна? Тогда выпей!" Человек пьёт водку, потом его тошнит на пол, он падает и бьётся в конвульсиях. Он испытывает такие муки, что потом ему страшно пить водку. Но если он её опять выпьет, то конец кодировки. Напомнило момент, когда бомжа с вокзала привезли на студию, вымыли, приодели и вывели в зал с кучей бабок и сказали бабкам "Перед вами великий маг и экстрасенс". Одна бабка пожаловалась, что у неё болит голова, бомж махнул рукой и ухнул и... надо же голова прошла!
Quote (Kvel)
Ну вот, лирика пошла.
Тогда обратись к деятелям искусства и всем представителям религий. "Какая душа!? Какие чувства!? Люди это всё нервные импульсы да химические реакции!" When Freedom Burns, The Final Solution, Dreams Fade Away, And All Hope Turns To Dust, When Millions Burn, The Curtain Has Fallen, Lost To The World, As They Perish In Flames
Дата: Пятница, 29 Октября 2010, 14:03 | Сообщение # 17
Вельможа
Группа: Обыватели
Сообщений: 177
Статус: Отсутствует...
Quote (Руслан)
Представь себе - не только видел, но и работал. Они вполне поддаются обучению - нужно только знать чему учить и как. Их способности к обучению резко ограничены, но не отсутствуют полностью, а ограничения всегда можно обойти. Если ребёнок не хочет разговаривать - его можно научить общаться жестами, например.
Что-то я не слышал, чтобы полные идиоты достигали хоть сколько-то значительных успехов. В любом случае, Тополь уже перевел разговор на воспитание личности.
Quote (Руслан)
А вот это ты зря. ИИ - задача не только для программистов и физиков, но и для поэтов и лириков. В конце концов, сам говорил, что нужно сформулировать понятие разумности, морали и так далее, прежде чем переводить его в цифры - а это работа для философов, социологов, психологов. Уверен,если когда и возьмутся за создание ИИ, то потребуется невиданный ранее союз точных и гуманитарных наук.
Десятки институтов ежегодно выпускают всяких интересных личностей, у которых в дипломе написано "философ", но что-то не видно следов их деятельности, а вот жизнедеятельности — хоть отбавляй. Да-с, я все-таки думаю, что ГСМ не способны создать что-то действительно стоящее и это скорее повод для отдельной дискуссии, если ты считаешь иначе Забудь про Google, спроси меня
Дата: Пятница, 29 Октября 2010, 14:29 | Сообщение # 18
Библиотекарь
Магистр
Группа: Советники
Сообщений: 4283
Статус: Отсутствует...
Quote (Kvel)
Десятки институтов ежегодно выпускают всяких интересных личностей, у которых в дипломе написано "философ", но что-то не видно следов их деятельности, а вот жизнедеятельности — хоть отбавляй.
Это вообще к чему? Речь идёт не об эффективности системы образования, пардон. И вообще ты всё дальше уходишь от конструктивных доводов. Более того, ты вплотную приблизился к грани оскорбления. Советую свернуть дискуссию - доводы вы высказали, а теперь тупо грызётесь, как оно всегда и бывает, когда собеседники принципиально не согласны. Вы друг другу ничего не докажите. Мы-источник веселья и скорби рудник Мы-вместилище скверны и чистый родник Человек-словно в зеркале мир-многолик Он ничтожен и он же безмерно велик О. Хайям
Дата: Пятница, 29 Октября 2010, 15:20 | Сообщение # 19
Вельможа
Группа: Обыватели
Сообщений: 177
Статус: Отсутствует...
Quote (Тополь)
Подожди, это как жизнь коротка?
Большинство детей-маугли умирают в раннем возрасте. Связано ли это с непригодными для современного человека образом жизни и питанием или же от моральных установок — точно не скажет никто.
Quote (Тополь)
Если такого ребёнка лет до 20 ничему не научить, так он и останется зверьём.
Если он попал в дикую природу до освоения навыков речи и других полезных штук — его не обучить им. Слишком важны для человека первые годы жизни. А так встречались дикие детишки, которые даже живя в стае продолжали клянчить у прохожих еду и быстро после этого восстанавливать навыки общения.
Quote (Тополь)
Это если мальчика бросить в возрасте лет 7. А если с самого рождения, то всё будет как я сказал. Он станет растением.
Хе-хе, ты никогда, видать, не ухаживал за малыми детьми. Они попросту не могут самостоятельно питаться, даже дефекацию не всегда производят сами. Такой малыш попросту не выживет, по вполне физиологическим причинам.
Quote (Тополь)
Разумное думание - думание разумного существа. Разумное существо см. выше
Выше ты мне так толком и не дал исчерпывающего определения, ты даже до сих пор считаешь младенца неразумным, хотя сам сказал, что проверить это невозможно. Что тут говорить?
Quote (Тополь)
Я же про это и втолковываю. Нельзя НАПИСАТЬ личность на программном коде. Её можно только воспитать.
Воспитание машины производится путем вбивания в нее кусков кода. Вот я и попросил тебя написать код, который позволит ей выделять свое Я. На самом деле тут еще проще — "выделять свое Я" слишком расплывчатое понятие, а машине нужны четкие установки, где, как и сколько раз его выделять. Пример про выделение на письме буквы "Я" Я предложил не случайно
Quote (Тополь)
Сам себя он не обречёт
Открою тебе страшную тайну, но за последние пятьдесят лет родилось гораздо больше младенцев, чем ты можешь себе представить. Многие из них умнее тебя, умнее меня и захватывают мир с большим рвением. Почему ты решил, что именно тебе повезет?
Quote (Тополь)
Пример с девушкой не катит, т.к. она может и по другому отреагировать. На комплимент может послать, на укус двинуть сумочкой. а на замах двинуть ногой в челюсть, т.к. девушка имеет чёрный пояс по каратэ
Исключения лишь подтверждают правила. Да и не все каратэ одинаково полезны в уличной драке и очень часто, даже если девушка таки может взять и ударить, она об этом забудет в силу более мощных установок.
Quote (Тополь)
Вот другой момент... рефлекс на закрытие глаза при приближении к нему предмета, хоть и тяжело, но можно обойти
Ну да, если убедить себя, что это действительно надо для чего-то важного. А если попросту нужно проткнуть глаз иглой, чисто смеха ради, ты, такой-сякой своевольный, проткнешь? Нет, ты спросишь "Зачем?", это тоже своего рода рефлекс.
Quote (Тополь)
ИИ не есть программа, точно так же как Сознание не есть мозг.
Не это главное, а главное то, какое влияние оказывает мозг на сознание и код на ИИ. Мозг, по сути, действительно опосредован, код же отнюдь.
Quote (Тополь)
Человек же, обладающий сознанием, может хотеть, по мимо этой основной программы, рисовать, писать, строить, помогать и другие вещи, которые животным не доступны.
Старичок Фрейд нашел бы, о чем с тобой поговорить Художник, не пожрав, не напишет шедевра, какое бы у него вдохновение не постигло, писатель, не пишет шедевры, не прерываясь на походы в туалет. Помогают обычно не по доброте душевной, а ради какой-то причины. Для кого-то это инвестиции, для кого-то способ заиметь полезные знакомства, для кого-то повод обрести душевное спокойствие... а для дорого Зигмунда Фрейда это повод показать самкам, какой ты офигенно добрый, крутой и сильный, чтобы таки позволить раскрепостится своим неудовлетворенным комплексам
Quote (Тополь)
Т.е. робот посадил человека в мешок (контур, цвет), запихнул ему кляп в форт (речь), полил его помоями (запах). И спокойно расстрелял. Не сначала он должен был ему кляп в рот. дабы глупый человечешка не попросил прекратить.
Всовывание кляпа противоречит первому закону, нельзя не только убить человека, но и нанести ему вред, а ограничение свободы слова — безусловный вред. Особенно путем всовывания кляпа. Это очень неприятно.
Quote (Тополь)
И калькулятор не лучше считает, а быстрее.
А разве считать быстрее не значит лучше?
Quote (Тополь)
Роботу надо будет просчитывать кучу всякого барахла, которое ему нужно будет что бы перемещаться и разговаривать, так что он замается. Точно так же как маятся и современные супер компьютеры, которым задают посчитать разные физические процессы.
Ага, такие процессы, которые решают суперкомпьютеры человечеству не решить за миллионы лет, пусть даже они все будут пахать с листочками бумаги по две смены. И у компьютеров это получается гораздо точнее. А простые повседневные процессы решаются этими суперкомпьютерами за микросекунды. Они даже не успеют толком нагреться за это время.
Quote (Тополь)
А вот если автоматический завод военной техники или ИИ - полевой генерал, вдруг посчитают этих прямоходящих существ инопланетянами и начнут экстеминатус?
Это и будет ошибка. От ошибки не застрахован никто и ничто. Не будь этих чертовых ошибок, я бы уже выращивал виноград на зеленых склонах гор Меркурия.
Quote (Тополь)
У меня всё сводится к тому, что ИИ это не программный код, а тот же человек, только в искусственной оболочке и с искусственным мозгом. Точно так же как сознание человека не является программным кодом, записанным на биологический носитель.
А у меня все сводится к тому, что человек и ИИ — разные вещи.
Quote (Тополь)
Он создаёт сознание, но им не является.
Не является, но влияет. Такие дела.
Quote (Тополь)
Кодирование от спиртного не так работает. Человеку говорят "Тебе противна водка!" Человек думает "Что за фигня? Я люблю водку!" Доктор "Скушай конфеточку" Человек ест конфетку, которая совсем не конфетка... Тогда доктор говорит:"Не веришь, что водка противна? Тогда выпей!" Человек пьёт водку, потом его тошнит на пол, он падает и бьётся в конвульсиях. Он испытывает такие муки, что потом ему страшно пить водку. Но если он её опять выпьет, то конец кодировки.
Это не кодировка, это закрепление рефлекса. В данном случае ты закрепил рвотный рефлекс за водкой, но не закодировал. Кодирование производится посредством глубокого гипноза и тут у человека появляются самый настоящий код отвержения спиртного. Никогда не слышал, что если закодировать неалкоголика от алкоголя, то он начнет сходить с ума? С твоей конфеткой это бы не случилось.
Quote (Тополь)
Напомнило момент, когда бомжа с вокзала привезли на студию, вымыли, приодели и вывели в зал с кучей бабок и сказали бабкам "Перед вами великий маг и экстрасенс". Одна бабка пожаловалась, что у неё болит голова, бомж махнул рукой и ухнул и... надо же голова прошла!
Не стоит недооценивать эффект плацебо. На нем держится очень немаленький процент ассортимента аптек.
Quote (Тополь)
Тогда обратись к деятелям искусства и всем представителям религий. "Какая душа!? Какие чувства!? Люди это всё нервные импульсы да химические реакции!"
Они этого и не отрицают. Но при этом добавляют, что помимо этих самый реакций и импульсов где-то таки есть душа. Им ничего другого не остается. Так же, кстати, был отодвинут Бог, когда открыли, что на облаках никто не живет. Типа "облака" и "небо" это суть метафора и Бог живет где-то за пределами известной вселенной. Забудь про Google, спроси меня
Дата: Пятница, 29 Октября 2010, 15:27 | Сообщение # 20
Вельможа
Группа: Обыватели
Сообщений: 177
Статус: Отсутствует...
Quote (Руслан)
Это вообще к чему? Речь идёт не об эффективности системы образования, пардон.
Да, речь идет о том, какой вклад могут в эту проблему внести лирики и поэты. Я думаю, что стишки и романы в программном коде не помогут ему стать ИИ. Даже четкое описание задачи они вряд ли смогут предложить. Но, как я уже говорил, это скорее спор про полезность/бесполезность ГСМ и повод для отдельной дискуссии.
Quote (Руслан)
Советую свернуть дискуссию - доводы вы высказали, а теперь тупо грызётесь, как оно всегда и бывает, когда собеседники принципиально не согласны. Вы друг другу ничего не докажите.
Хоть какое-то оживление, не все же вам там по космическим голубым далям шляться Забудь про Google, спроси меня
