О научности ИИ < Fancon.ru - форум Арт-пространство «Понедельник»


Страницы: (3)    
 Ответ
 Новая тема
 Опрос

> О научности ИИ
   Сообщение № 1. 21 июня 2022 г. в 14:43, Bioskeptic пишет:
Bioskeptic ( Offline )
выжил на планете 4546B

*
Поэт Слова
Сообщений: 1583
профиль

Репутация: 314
Создаю эту тему, чтобы участники могли бы поделиться полезными ссылками и информацией, связанной с темой конкурса. Мне кажется это будет полезно для авторов, как опытных, так и новичков. Суть в том, что тема про ИИ может быть обманчиво легкой, и у многих начписов сложится впечатление, что достаточно написать историю про сверхразумных роботов, которые хотят уничтожить всех челавеков, ничего не обосновывая. Конечно, матчастью владеть необязательно, но это в любом случае будет подспорьем.

Для затравки упомяну легкое чтиво: Ник Бостром. "Суперинтеллект: Пути, опасности, стратегии" (2014). (легко можно найти в сети).

   Сообщение № 2. 26 июня 2022 г. в 21:36, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
В Москве стартовал всероссийский чемпионат по искусственному интеллекту

   Сообщение № 3. 27 июня 2022 г. в 16:10, Bioskeptic пишет:
Bioskeptic ( Offline )
выжил на планете 4546B

*
Поэт Слова
Сообщений: 1583
профиль

Репутация: 314
О вычислительных ограничениях сдерживания искусственного суперинтеллекта
Superintelligence cannot be contained: Lessons from Computability Theory (2016)
https://arxiv.org/abs/1607.00913

Коротко, точное прогнозирование и заблаговременное предотвращение зловредного поведения супер-ИИ невозможно по той же самой причине, по которой не вычислима проблема остановки Тьюринга. Последняя заключается в том, что нужно доказать, существует ли некий алгоритм, который анализирует другой алгоритм и может определить, закончится ли когда-нибудь этот второй алгоритм, если ввести в него определенные данные, и если не закончится, то прервать его. Тьюринг доказал, что такой алгоритм-анализатор существовать не может. Аналогично, можно представить невычислимой по-Тьюрингу проблему причинения вреда, то есть предсказать, причинит ли алгоритм вред человеку, и не выполнять его в этом случае.

   Сообщение № 4. 1 июля 2022 г. в 16:25, Bioskeptic пишет:
Bioskeptic ( Offline )
выжил на планете 4546B

*
Поэт Слова
Сообщений: 1583
профиль

Репутация: 314
Статья на хабре о вредоносном машинном обучении и состязательных атаках на распознавание изображений.

https://habr.com/ru/company/cloud4y/blog/593849/

(на мой личный взгляд, благодатная тема для создания новых фантдопов и фантастических идей об ИИ-угрозах без всяких злых искусственных разумов)

   Сообщение № 5. 1 июля 2022 г. в 16:52, Боб пишет:
Боб ( Offline )
Don't boil me

*
Босс
Сообщений: 17991
профиль

Репутация: 1388
Про распознавание изображений (ну, в том числе), есть отличный художественный фильм: https://www.kinopoisk.ru/film/1345158/

   Сообщение № 6. 3 июля 2022 г. в 20:38, bsv пишет:
bsv ( Offline )
Delenda est



Оргкомитет Пролёта Фантазии
Сообщений: 4832
профиль

Репутация: 762
Искусственный Интеллект: не боишься, человек? | Документальный фильм Би-би-си
https://www.youtube.com/watch?v=_sqmbzv2CDo

   Сообщение № 7. 7 июля 2022 г. в 21:39, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
Китаист не исключил создания в КНР системы анализа мыслей

   Сообщение № 8. 8 июля 2022 г. в 01:18, Bioskeptic пишет:
Bioskeptic ( Offline )
выжил на планете 4546B

*
Поэт Слова
Сообщений: 1583
профиль

Репутация: 314
constp

С таким же успехом можно построить ИИ, который анализирует данные полиграфа.
С неточными и случайными данными до такого можно дойти, ух! Особенно если верить в их непогрешимость.

   Сообщение № 9. 8 июля 2022 г. в 05:47, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
Bioskeptic
С неточными и случайными данными нам приходится иметь дело всю жизнь.
Почему бы и искуственному интеллекту с ними не поработать...

   Сообщение № 10. 8 июля 2022 г. в 12:14, Bioskeptic пишет:
Bioskeptic ( Offline )
выжил на планете 4546B

*
Поэт Слова
Сообщений: 1583
профиль

Репутация: 314
Цитата(constp)
Почему бы и искуственному интеллекту с ними не поработать...

Ну да, можно научить его угадывать лица в облаках :kz:
Я к тому, что ИИ может находить несуществующие связи, если его обучить на ненадежных данных. Получится какой-нибудь ИИ-конспиролог, который будет распознавать шпиёнов, где их нет.
Правильное применение инструмента зависит от того, кто знает его ограничения.

   Сообщение № 11. 8 июля 2022 г. в 19:21, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
То, что сейчас называют искусственным интеллектом, не более чем продвинутый инструмент.
На самом же деле, ИИ - это программа, которая будет с этими инструментами работать. Работать по собственному выбору, по желанию, обучаться. И не только решать поставленные задачи, но и ставить их.

   Сообщение № 12. 9 июля 2022 г. в 11:21, Фрекенбок пишет:
Фрекенбок ( Offline )
Читатель

*
Демон
Сообщений: 1256
профиль

Репутация: 315
Может и мы искусственный интеллект, наш Таинственный Создатель вложил в нас определенную программу, а мы пустились во все тяжкие.
Теперь и концов не найти.

   Сообщение № 13. 10 июля 2022 г. в 11:45, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
Цитата(constp)
На самом же деле, ИИ - это программа, которая будет с этими инструментами работать. Работать по собственному выбору, по желанию, обучаться. И не только решать поставленные задачи, но и ставить их.

знать бы еще, что такое "желание обучаться".

Архетип ИИ в фантастике, это такой себе очень исполнительный управленец, который понимает некую абстрактную цель (например, благо для человечества) и умеет оптимизировать в рамках морали-этики текущие процессы (например, знает, как установить по городу светофоры во благо человечества). Вот только обладать интеллектом и быть хорошим управленцем, это не одно и то же. ИИ это не устройство, которое "работает по собственному выбору". Кажется, Лем даже описывал такую шуточную концепцию ИИ, который в момент своего создания тут же прекратил что либо думать, потому что не понял, зачем ему это надо.

ставить и решать задачи - это не про ИИ, а про влажные мечты старых фантастов об идеальном искусственном управленце.

   Сообщение № 14. 10 июля 2022 г. в 12:23, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
Цитата(Bioskeptic)
О вычислительных ограничениях сдерживания искусственного суперинтеллекта
Superintelligence cannot be contained: Lessons from Computability Theory (2016)
https://arxiv.org/abs/1607.00913

Коротко, точное прогнозирование и заблаговременное предотвращение зловредного поведения супер-ИИ невозможно по той же самой причине, по которой не вычислима проблема остановки Тьюринга. Последняя заключается в том, что нужно доказать, существует ли некий алгоритм, который анализирует другой алгоритм и может определить, закончится ли когда-нибудь этот второй алгоритм, если ввести в него определенные данные, и если не закончится, то прервать его. Тьюринг доказал, что такой алгоритм-анализатор существовать не может. Аналогично, можно представить невычислимой по-Тьюрингу проблему причинения вреда, то есть предсказать, причинит ли алгоритм вред человеку, и не выполнять его в этом случае.


кринж какой-то. Первые три раздела статьи посвящены проблематике законов робототехники Азимова, но не говорится ни слова о том, на каком принципе будет работать сам пресловутый суперинтеллект. В итоге вся статья звучит так: мы не знаем, каким образом создать суперинтеллект, но если он будет работать как текущий искусственный интеллект, то мы не сможем защититься от такого интеллекта. Ну круто.

На мой взгляд, данная статья про сдерживание искусственного интеллекта является популистской из-за опускания ключевой мысли: раз на сегодняшний день мы не можем представить механизм реализации суперинтеллекта, то мы и не можем прогнозировать связанные с этим интеллектом риски. Разумеется, это не повод ставить крест на обсуждении данной проблемы в рамках исходного материала, но для конкурса фантастики это значит только то, что любой автор, пересказавший содержание этой статьи, попадет в ловушку престарелых фантастических клише.

Вот откуда это? Почему в голове constp ИИ это такой себе управленец, умеющий "не только решать, но и ставить задачи", а Bioskeptic ему вторит подкидыванием статьи с размышлениями о рисках существования такого ИИ-управленца?

   Сообщение № 15. 10 июля 2022 г. в 12:47, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
В вопросе суперинтеллекта меня больше всего интересует, с какой целью такой ИИ вообще может быть построен. Мы знаем много романов про ИИ, созданный для управления человечеством, и на первый взгляд это звучит логично с точки зрения того, что содержание ИИ дешевле содержания тысяч чиновников, а взяток такой ИИ брать не будет. Уже сегодня мы видим то, как ИИ заменяет много людей, что невольно поднимает вопрос: каков порог заменяемости человека искусственным интеллектом в управленческом секторе? На каком уровне мы продолжим вводить ИИ? Уровень депутата? Губернатора? Министра? Президента?

С точки зрения государства как регулятора ветвей властей, ответ очевиден - ИИ будет внедряться вплоть до самого высокого уровня. Но в рамках философии власти я вижу регуляторную функцию власти как нечто вторичное по отношению к власти как таковой. Проще говоря, власть не захочет делиться с ИИ теми аспектами власти, которые узурпируют саму власть. Поэтому я не вижу перспектив создания суперинтеллекта как некоего условного "управленца", являющегося идеальным регулятором ветвей власти. Существует социальный порог создания подобного сверхразума.

С другой стороны, суперинтеллект может стать для человечества способом еще большего узурпирования этой самой власти. Суперкомпьютер как оружие - это то развитие ИИ, которое в рамках философии власти звучит более чем закономерно. Но должен ли такой суперинтеллект быть разумным?

Года три назад один мой знакомый программист выдвинул идею суперкомпьютера, как такой себе шкатулки от всех паролей в мире. Например, что если квантовый суперкомпьютер благодаря радикально иному принципу обработки данных сумеет взломать любой пароль на планете? Запустить ядерные ракеты? Перевести деньги с любого банковсокго счета? И что, если гонка за создание такого суперключа от всех паролей ведется государствами уже сейчас?

Я предлагаю поговорить о чем-то куда более пугающем, чем суперинтеллект - об этом суперключе. На мой взгляд создание такого оружия равносильно созданию атомной бомбы.

Не менее важно что самой очевидной защитой от такого суперкомпьютера будет тотальная мировая изоляция интернета, потому что самый простой способ защититься от суперключа, это обрубить паутину. Такой суперкомпьютер может стать рычагом мировой деглобализации

   Сообщение № 16. 10 июля 2022 г. в 13:02, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
В рамках этой логики, поводом для создания суперинтеллекта-управленца будет создание такого компьютера-суперключа.

Если на планете будет существовать угроза суперключа, то это приведет к информационному изоляционизму. По своей сути такой изоляционизм равен мировой катастрофе, изменению логистики, контроля информации, провоцированию новой мировой войны. В таких кризисных условиях государствам придется искать новые способы оптимизации внутренних ресурсов с целью преодоления кризиса, из-за чего наработки по высокотехнологичному узурпированию власти (созданию суперключа) перекочуют в сферу совершенствования регуляторных механизмов власти, что отодвинет порог вхождения ИИ в управленческих сектор.

Но даже в таком случае я не вижу перспектив создания ИИ, который станет таким себе главным управленцем на уровне корпорации\государства.

   Сообщение № 17. 10 июля 2022 г. в 15:05, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
Цитата(Fun)
Почему в голове constp ИИ это такой себе управленец, умеющий "не только решать, но и ставить задачи"

Отнюдь не управленец. Я довольно-таки много писал про ИИ. (На фоне того, что пишу не так много, как хотелось бы.) Соответственно, много размышлял на эту тему, и никак не смог представить узкую специализацию для ИИ. Да, конкретная особь может быть управленцем. Но почему мы должны отказывать разумным существам в желании, например, работать ученым, инженером, врачом, барменом, дворником, воспитателем? А может быть, ИИ пожелает стать программистом и будет создавать себе подобных? Почему мы не допускаем, что у искусственного интеллекта могут быть эмоции, влияющие на его поведение?
Вопросов много, и я очень хочу увидеть на этом конкурсе ответы хотя бы на некоторые из них. Например, меня в последнее время интересует вопрос: как ИИ относится к своим создателям и к среде обитания. Надежность вычислительной техники, информационных и электрических сетей должна заботить его не меньше, чем нас - экология. А всё это, по крайней мере сейчас, зависит от человека. Когда еще ИИ перехватит бразды правления... И захочет ли...

   Сообщение № 18. 10 июля 2022 г. в 15:45, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
я тут телегу толкнул о том, почему скорее всего в нашем обществе таких "разумных существ" не появится, а ты хочешь еще и порассуждать о том, как такие "разумные существа" будут врачами\барменами\дворниками? Ну хоть чуть-чуть не игнорируй мои аргументы, я же тут распинался по сути о том, что не могу представить ближайшего будущего в котором появится такой ИИ, а ты уже готов рассуждать о таком ИИ в контексте современных социума и этики, хотя я выше привел аргументы того, что социум и этика даже для того чтобы чуточку приблизится к такому ИИ должны радикально изменится, поэтому сам вопрос про ИИ-дворника некорректен, т.к. в таком обществе и дворников-то может не оказаться, не говоря уже о более серьезных социальных сдвигах.

   Сообщение № 19. 10 июля 2022 г. в 16:04, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
Цитата(Fun)
дворников-то может не оказаться

Дворники нужны будут всегда. Пыль, опавшая листва, птичьи каки... Да и фантик кто-нибудь уронит, ненароком.

   Сообщение № 20. 10 июля 2022 г. в 20:20, Боб пишет:
Боб ( Offline )
Don't boil me

*
Босс
Сообщений: 17991
профиль

Репутация: 1388
Цитата(Fun)
с какой целью такой ИИ вообще может быть построен


Мне кажется, есть только один ответ на такой вопрос:



Ну серьезно. Люди делают такое количество всякой фигни, что если что-то можно сделать, оно обязательно будет сделано.
Это я уж не говорю про то, что ученые и инженеры в этом преуспевают втройне, это их образ мышления: узнать, открыть, построить - зачем, потом подумаем.

   Сообщение № 21. 11 июля 2022 г. в 04:30, Bioskeptic пишет:
Bioskeptic ( Offline )
выжил на планете 4546B

*
Поэт Слова
Сообщений: 1583
профиль

Репутация: 314
Цитата(Fun)
Года три назад один мой знакомый программист выдвинул идею суперкомпьютера

которая была выдвинута еще в 1994 году, когда Шор придумал свой знаменитый алгоритм. После чего спецы стали придумывать постквантовую криптографию, чтобы этого самого Q-day не случилось. И для челов, которые более менее погружены в тему, она является не более бомбической и не менее популистской, чем, допустим, угроза от ИИ, ворочающего большими данными. Не, я на самом деле не против криптотриллера, тем более тема в научной повестке, но имхо лучше отойти от банального прогностического футуризма, о котором написаны мегабайты публицистических статей. Тем более, что участие даже тупого ИИ в Q-day необязательно. Алгоритмы уже есть, дело - за реализацией "железа".

Цитата(Fun)
Вот откуда это? Почему в голове constp ИИ это такой себе управленец, умеющий "не только решать, но и ставить задачи", а Bioskeptic ему вторит подкидыванием статьи с размышлениями о рисках существования такого ИИ-управленца?

Все прост. Лично я читаю рандомные статьи по ИИ и кидаю те, что мне кажутся граничащими с НФ-темой и при этом более менее доступными для неспецов. Так получилось, что к НФ-теме ближе суперИИ и о нем спецы пишут доступнее, ибо тема более отвлечена от научного мейнстрима, где полно формул. Вряд ли кто прочтет даже абстракт, если там будут сплошные технические выкладки по байесовскому подходу в глубоком обучении. Хотя где про актуальные обманы искусственного зрения, там тож легко и про суперИИ ни слова.

В защиту авторов статьи скажу, что у работы задача узкоспециализирована, это никакой не обзор по реализации сверхИИ. Тут уже допущение, что сверхИИ реализован, задача показать логически, что его безопасность никоим образом нельзя доказать. Это за пределами любых алгоритмов, потому что сверхИИ - это уже ультимативный алгоритм, а выше его ничего нет, только умозрительные сверхтьюринговые вычисления, которые типа волшебного джинна по реализуемости. А тема реализации сверхИИ - она есть и у Бострома, и у многих других авторов. О нее столько же копий сломано, сколько о постквантовой криптографии. Не нужно ожидать, что в отдельной публикации будет исчерпывающее интро. Для исчерпывающей инфы нужно долго и муторно копать авторов.

А на вопрос, откуда взяться ИИ с человеческим или околочеловеческим разумом, так там все сводится к обратной инженерии и моделированию человеческого мозга и его когнитивных функций для лучшего понимания принципов его работы. Раньше нейросетки всегда эмулировали на классическом железе, сейчас уже пришло понимание, что они энергоэффективнее работают на нейроморфных чипах с тактами, симулирующими ритмы человеческого мозга.
То есть даже не какашка на Болотной, а вполне прикладные задачи. Нет целенаправленной задачи создавать ИИ-президента, но появление сильного ИИ "ради любопытства" может привести к ненулевому сценарию появления глобального ИИ-менеджера. Хотя куда более вероятно, что такой сильный ИИ станет аналогом существующих фабрик мысли - аналитических институтов, чьими услугами активно пользуется правительство США.
К тому же будем честны. Создание ИИ, которое по максимуму собирает инфу со всего мира и строит на их основе далекоидущие выводы, учитывая свое собственное воздействие - это сродни гонки за пресловутым квантовым превосходством, кто успел, тот имеет преимущество. А мое имхо, что если сознание - это функция от сложности когнитивных процессов, то такое ИИ вполне может обладать сознанием, пусть даже не человеческим.

А связка такого ИИ и иррационально мыслящих людей будет еще более бомбезной.


Добавлено через 13 мин. 4 с.

Цитата(Боб)
узнать, открыть, построить - зачем, потом подумаем.

Это немного карикатурный образ.
Там все-таки имеется представления, к чему все идет. Главная проблема - в разочарованиях, что идет не так быстро и не совсем туда, куда хочется.

   Сообщение № 22. 11 июля 2022 г. в 12:35, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
Цитата(Bioskeptic)
Вряд ли кто прочтет даже абстракт, если там будут сплошные технические выкладки по байесовскому подходу в глубоком обучении.

Знаешь, половина твоих отговорок на форуме по сути является завуалированной фразой "я кидаю вам контент попроще, потому что для более сложного контента вы слишком тупые, а я, соответственно, - слишком умный". Каждый раз ору с этого))) Если тебе не лень обмениваться со мной длинными простынями, то и не составит труда рассказать об условном байесовском подходе таким словами, чтобы это не звучало как абстракт. В конце концов, мне же не лень рассказать простыми словами о постквантовой криптографии.

Я прекрасно понимаю, что идея условного "суперключа" не нова, но, на мой взгляд, она куда более актуальна в том смысле, что в большей степени коррелирует с современными проблемами нашего мира, и через эту идею я вывел тот путь, к которому общество сможет прийти уже к искусственному сверхразуму. И в этом весь цимес моей критики. Я критикую не твою статью, а попытки осмыслять некие идеи, перепрыгивая через логические ступеньки.

Как ты сам сказал, в кинутой тобой статье есть допущение, что сверхИИ уже реализован, и constp исходит из этого же допущения. И именно такой подход я и критикую. Это перепрыгивание через ступеньки логики. Я не согласен с Боб, что можно просто представить какую-то фигню и начать фантазировать на эту тему. Любое открытие обусловлено социальным контекстом, и чем открытие радикальнее\технологичнее, тем выше вероятность того, что оно будет реализовано в принципиально ином мире.

Если кто-то готов размышлять о сверхИИ, не размышляя о тех условиях, в которых таковой может появиться, то это уже по сути нечто далекое реального размышления о нашем реально будущем. Ведь озвученная в статье "проблема остановки Тьюринга", это такой математический мысленный эксперимент: давайте вообразим невозможное условие, при котором сверхИИ существует, и попытаемся в рамках невозможного допущения поговорить о рисках такого сверхИИ, исходя из имеющихся на сегодняшний день научных данных.

Но если ты хочешь приложить такую идею к научнофантастическому тексту, то как ты вообразишь невозможный мир? Ведь невозможный к текущих условиях сверхИИ можно вообразить только в невозможном мире. Т.е. мир придется придумать от балды. Да, такая фантастика тоже имеет место быть, просто она в меньшей степени претендует на звание "научная".

Хотя как сказать. Для кого-то размышления о сверхИИ-дворнике, это тоже научная фантастика. Просто мне казалось, ты более строг к таким вещам.

Вот взять этих дворников, которые, по мнению constp, будут в любом мире. На чем основано такое утверждение? Разве через 100-200 лет клининг-менеджмент не может оказаться чем-то автоматизированным на уровне обычных нейронок и умереть как профессия? Или почему бы не предположить, что за 100-200 лет профессия дворника не сольется с профессией работника жкх и городского садовника в некую иную профессию-гибрид? Утверждение constp "дворники нужны будут всегда" антинаучно. На мой взгляд, рассуждения про сверхИИ-дворника - это такие рассуждения от балды.

Такой научфант мне не интересен. Что интересно, это критика моего предположения, что квантовые компьютеры могут опосредовано повлиять на развитие сврехИИ, потому что чем такая мысль обоснованней, тем с большей вероятностью мы все вместе сможем представить тот реальный мир, в рамках которого может возникнуть сверхИИ, и тем мнее от балды его описать в научфанте.

Добавлено через 8 мин. 12 с.

Цитата(Bioskeptic)
Это немного карикатурный образ.

вот я об этом же. Пусть и, может, через чур напираю

   Сообщение № 23. 11 июля 2022 г. в 14:08, Bioskeptic пишет:
Bioskeptic ( Offline )
выжил на планете 4546B

*
Поэт Слова
Сообщений: 1583
профиль

Репутация: 314
Цитата(Fun)
Знаешь, половина твоих отговорок на форуме по сути является завуалированной фразой "я кидаю вам контент попроще, потому что для более сложного контента вы слишком тупые, а я, соответственно, - слишком умный". Каждый раз ору с этого)))

Нарываешься на обмен какахами?

Цитата(Fun)
Просто мне казалось, ты более строг к таким вещам.

Я плохо отношусь к незнанию матчасти, а не к степени реалистичности НФ-концептов. Сильный ИИ гораздо реалистичнее сверхсветовых двигателей и квантовой постсингулярности (которая у многих авторов почему-то означает нарушение базовых квантовых принципов), потому что у нас уже есть proof-of-concept в виде человеческого мозга, а сверхИИ - это просто расширение его вычислительных возможностей. Но даже принципиальная невозможность не барьер для тру НФ, где позволительны всяческие мысленные эксперименты.
Например, я бы почитал рассказ о влиянии условного старика Хоттабыча на условные законы термодинамики, только пусть автор сначала разберется в этих законах.

Цитата(Fun)
Что интересно, это критика моего предположения, что квантовые компьютеры могут опосредовано повлиять на развитие сврехИИ

Квантовые компы по своим свойствам должны будут сильно повлиять на развитии ИИ, только не в аспекте квантового шифрования, а в аспекте больших данных. Есть запрос на обработку петабайт данных из совершенно разных областей, и для этого нужен мощный обучаемый интеллект. Ускорить его работу можно с помощью кубитов.

   Сообщение № 24. 11 июля 2022 г. в 14:51, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
Цитата(Bioskeptic)
в аспекте больших данных. Есть запрос на обработку петабайт данных из совершенно разных областей, и для этого нужен мощный обучаемый интеллект. Ускорить его работу можно с помощью кубитов.


интересный вопрос. Вот задумался, а можно ли применять машинное обучение в рамках квантового компьютера, и, оказывается, есть целая нифига себе какая отрасль знаний на эту тему. Вот о таком бы я реально почитал, о каких-нибудь размышлениях\мысленных экспериментах о применении кубитов в нейронках.

Насколько я знаю, тот же OpenGL учится играть в игры путем игры с самим собой. Т.е. сам процесс обучения очень долгий, особенно если брать не игры типа шахмат, а обучение играть в компьютерные игры с рассчитанными на человеческие тайминги игровыми сессиями. Чтобы сыграть 10к игр в доту OpenGL нужно очень много часов. И я пока вообще не читал ничего о том, как подобные часы можно было бы сократить с помощью кубитов. Но если есть теоретические размышления на этот счет, то вкидывай сюда, с радостью поглощу.

   Сообщение № 25. 11 июля 2022 г. в 17:34, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
Цитата(Fun)
Разве через 100-200 лет клининг-менеджмент не может оказаться чем-то автоматизированным на уровне обычных нейронок и умереть как профессия? Или почему бы не предположить, что за 100-200 лет профессия дворника не сольется с профессией работника жкх и городского садовника в некую иную профессию-гибрид? Утверждение constp "дворники нужны будут всегда" антинаучно. На мой взгляд, рассуждения про сверхИИ-дворника - это такие рассуждения от балды.


Профессия может называться, как угодно. Трудовые действия - вот главное!
Даже если предположить, что автоматизация достигла небывалых вершин, что на каждом квадратном метре улиц, тропинок или парковок сидит пылесос или механизм с веником, необходимо управление всем этим хозяйством. Например, на улице меняют асфальт, на тропинках собираются провести забег кросса или парковку решили занять под складирование плакатов для демонстрации трудящихся. Кто-то должен дать команду пылесосам и асфальтомоям, чтобы не мешались. Даже если это супермозг московского ЖКХ, он все равно выполняет функцию дворника, а пылесосы (исполнительные механизмы) всего лишь его инструменты.
Я вообще не понимаю, почему ИИ должен исполнять только глобальные функции? Почему нельзя наделить разумом тот же пылесос, или десяток пылесосов? Что же вас всё время тянет "спасать мир"? Неужели, рассказ о маленьком человеке ИИ-дворнике в ваших глазах заведомо проигрывает рассказу о президенте супер-ИИ? Зачастую, чувства и мысли "маленького человека" оказываются читателю интереснее, понятнее, чем запутанные интриги во власти. Тем более, в рассказе их показать легче, чем в романе.

   Сообщение № 26. 11 июля 2022 г. в 18:36, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
Цитата(constp)
Я вообще не понимаю, почему ИИ должен исполнять только глобальные функции? Почему нельзя наделить разумом тот же пылесос, или десяток пылесосов? Что же вас всё время тянет "спасать мир"? Неужели, рассказ о маленьком человеке ИИ-дворнике в ваших глазах заведомо проигрывает рассказу о президенте супер-ИИ? Зачастую, чувства и мысли "маленького человека" оказываются читателю интереснее, понятнее, чем запутанные интриги во власти. Тем более, в рассказе их показать легче, чем в романе.


сверхразумный пылесос никому не нужен, т.к. для выполнения простых функций уборки хватит и простого ИИ. Создание сложного ИИ нужно именно что для решения сложных задач.

Добавлено через 1 мин. 3 с.

Цитата(constp)
Даже если предположить, что автоматизация достигла небывалых вершин, что на каждом квадратном метре улиц, тропинок или парковок сидит пылесос или механизм с веником, необходимо управление всем этим хозяйством.


и такое "управление хозяйством" уже никак нельзя будет назвать профессией дворника

   Сообщение № 27. 11 июля 2022 г. в 19:02, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
Цитата(Fun)
никак нельзя будет назвать профессией дворника

Можно назвать "одной из профессий" многозадачного интеллекта.

Цитата(Fun)
простого ИИ

Вот-вот, я как раз о том, что "простой" ИИ будет намного чаще встречаться в повседневной жизни, чем сложный. Мы и сейчас дворников видем чаще, чем президентов и главнокомандующих.

   Сообщение № 28. 11 июля 2022 г. в 19:23, Fun пишет:
Fun ( Offline )
Странник

*
Автор
Сообщений: 1474
профиль

Репутация: 458
Простой ИИ в смысле не обладающий сознанием, а не в смысле ИИ-дауншифтер, который решил стать дворником

   Сообщение № 29. 11 июля 2022 г. в 19:43, constp пишет:
constp ( Offline )
Странный

*
Владыка Тьмы
Сообщений: 6667
профиль

Репутация: 546
Цитата(Fun)
ИИ в смысле не обладающий сознанием

ИИ не обладающий сознанием - это то, что мы сейчас пытаемся выдать за "искусственный интеллект". Это просто сложный инструмент, который позволяет человеку поменьше напрягать свой интеллект. (См. "Сообщение №11")
:-)

   Сообщение № 30. 12 июля 2022 г. в 14:32, Bioskeptic пишет:
Bioskeptic ( Offline )
выжил на планете 4546B

*
Поэт Слова
Сообщений: 1583
профиль

Репутация: 314
Цитата(Fun)
Т.е. сам процесс обучения очень долгий, особенно если брать не игры типа шахмат, а обучение играть в компьютерные игры с рассчитанными на человеческие тайминги игровыми сессиями.

Мне кажется, чисто гипотетически для этой цели можно использовать не квантовый комп, а какой-нибудь Deep Blue. Условно ИИ-модуль подключаем к суперкомпу, и проводим несколько тысяч итераций. Комп не привязан к человеческим таймингу, он не следит за спрайтами на экране, для него достаточно цифрового представления.

Насколько я помню, основная суть квантового компа в том, что кубиты во время вычислительных операций позволяют "держать в памяти" сразу все возможные комбинации. То есть если, допустим, обычный комп выполняет операцию с 00 и 01 и получает на выходе 0 или 1, то квантовый комп в этот же момент за счет суперпозиции выполняет операции с 00 01 10 11, но результат также получает в виде классического бита, конкретное значение которого (0 или 1) вроде как вероятностно. То есть по сути квантовый комп - это хитрый способ проводить параллельные вычисления. Поэтому ускорить работу можно лишь тех алгоритмов, что допускают такой вот параллелизм, просто быстрее выполнять сложение и вычитание квантовый комп не сможет, он будет делать это со скоростью обычного компа. Но, блин, реально интересно, можно ли, в принципе, на квантовом компе реализовать ИИ (и как это реализовать), который сыграет "в уме" кучу каток в доту, играя по сути в одну катку. Скорее всего, сначала сам код игры нужно будет перевести на "квантовый язык".

1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей);



Яндекс.Метрика Астрель-СПб rpg-zone.ru Конкурс иллюстраций Штрихи Пролёта - art.fancon.ru