Воспитание машин. Новая история разума
- Sasha Krasnovhas quotedlast year
Переход на лучше усваиваемую вареную пищу сопровождался сокращением желудочно-кишечного тракта, что, в свою очередь, позволило людям нарастить относительный объем головного мозга [4]. У горилл, питающихся сырой растительной пищей, мозг вдвое меньше человеческого при сопоставимых размерах тела.[4] Общий объем «жадных» до энергии органов — сердца,
печени, ЖКТ и мозга — лимитирован, так что мозг мог
вырасти только за счет сокращения желудочно-кишечного
тракта, так как и сердце, и печень пропорциональны объему
остального тела. - Sasha Krasnovhas quotedlast yearСовременный научно обоснованный вариант трех законов робототехники предложен Стюартом Расселом [27], а именно:
Единственная цель роботов — максимизировать пользу, оказываемую ими людям.
Первоначально роботы не знают, в чем именно эта польза заключается.
Роботы обучаются пониманию полезности в процессе общения с людьми.
Как видим, эти законы основаны на формировании у роботов человеческой системы ценностей методом обучения с подкреплением, когда их поведение постоянно оценивается людьми, как это и подразумевается в описанной выше операционной системе роботов. - Sasha Krasnovhas quotedlast yearЦифровая платформа, предоставляющая операционную систему роботов (даром!), обеспечивает все расчеты между пользователями и поставщиками услуг с помощью электронного кошелька робота, являющегося неотъемлемой частью операционной системы. Этот электронный кошелек аналогичен дофаминовой системе мозга, обеспечивая обучение с подкреплением, нацеленное на удовлетворение потребностей конечных пользователей. Собственно, деньги играют в рыночной экономике аналогичную роль, посылая обучающие сигналы всей цепочке создания стоимости.
подкрепление!
- Sasha Krasnovhas quotedlast yearЛогика, включая логический ИИ, понимает под мышлением математически выверенные операции с символами вместо предметов. Однако логический интеллект не порождается индивидуальным мышлением. Напротив, он нормирует индивидуальное мышление через язык и культуру в процессе воспитания. Мы осваиваем одну общую логику, а не изобретаем ее заново каждый свою. Этим же путем воспитания должны пойти и роботы.
- Sasha Krasnovhas quotedlast yearСоответственно машинное обучение интересуют не столько «быстрые» алгоритмы работы уже готовой системы, сколько «медленные» алгоритмы ее самосборки, постепенного увеличения сложности системы при ее взаимодействии с миром. И эти последние (алгоритмы обучения) формулируются как раз в терминах оптимального управления, то есть достижения системой каких-то целей.
"мотив" познавания
- Sasha Krasnovhas quotedlast yearзнаменитая метафора Л. С. Выготского: «Облака мыслей, гонимые ветрами мотивов, проливаются дождем слов» [11]. Логика сосредоточивается на законах сознательного символьного мышления («облаках мыслей»), психолингвистика — на том, как они «проливаются дождем слов», психология же больше интересуется подсознательными «ветрами мотивов».
- Sasha Krasnovhas quotedlast yearИнтеллект — это [7]:
способность порождать новые алгоритмы для сколь угодно широкого круга задач;
умение добиваться своих целей в постоянно меняющихся условиях внешней среды;
способность решать неограниченный круг задач при ограниченных ресурсах;
способность к целенаправленному адаптивному поведению, и т.д.
Все эти определения тесно связаны между собой, подчеркивая разные стороны одного и того же свойства интеллекта: его субъектность, самостоятельность и креативность в рамках так называемого агентского подхода [8]. - Sasha Krasnovhas quotedlast yearВсякая технология, в сущности, просто продолжает естественное, врожденное стремление всего живого господствовать над окружающей средой.
СТАНИСЛАВ ЛЕМволя к власти по Ницше?
- Sasha Krasnovhas quotedlast yearНапример, уже сегодня имеется техническая возможность с минимальными издержками организовать массовые электронные голосования, обеспечив доверие к их результатам. (Применяя технологии шифрования с открытым ключом, когда каждый респондент может по своему частному ключу проверить, правильно ли учтен его голос в электронной системе голосования, не раскрывая при этом тайну голосования.) Сюда же, видимо, можно отнести и постоянно развивающиеся технологии распределенных реестров, математически гарантирующие общественную защиту любых транзакций.
- Sasha Krasnovhas quotedlast yearЕсли индустриальный уклад повысил энергетическую мощь цивилизации, то цифровой уклад повысит ее интеллектуальную мощь и, как следствие, энергоэффективность экономики. Каждый джоуль будет контролироваться и расходоваться с максимальной эффективностью, предотвращая тем самым надвигающийся глобальный экологический кризис. Сегодняшний повсеместный тренд на энергоэффективность — один из признаков перехода к новому укладу.
а именно: Несмотря на все свои достижения, индустриальная цивилизация, основанная на ископаемом топливе, к концу XX века, по-видимому, уже достигла предела своего развития. Исследования Римского клуба [13] свидетельствуют о том, что несущая способность Земли была превышена уже к концу 1970-х [18]. Это означает, что современный пакет технологий не способен переработать все отходы цивилизации и планета забивается мусором (вспомним о гигантских островах из пластика в океане), резко повышается уровень CO2 в атмосфере.
fb2epub
Drag & drop your files
(not more than 5 at once)