ivanov_petrov, posts by tag: tech - LiveJournal

Или верняк?

Личное отношение к ИИ будет усиливаться. На это направлена политика продаж - ИИ дают личные имена. ИИ говорит, используя маркеры личности - от первого лица. Вы же понимаете, что ответы через "я" (я такой-то, я считаю...) - это фальшь, там нет никакого "я"? Понятно, что пользователь будет больше доверять и прислушиваться к ответам, которые говорятся как бы от личности.

Поэтому оговорки, что ИИ - это инструмент, машина - ничтожны. Многие к автомобилю относятся как к одушевленному существу, а к ИИ гарантированно будет пронизанное личным отношение. На словах можно понимать, что это машина, но подспудно все равно общение будет строиться как с личностью.

Поэтому мне интересно, что это за личность. Понятно, что во многом эту личность создает читатель, пользователь. И поэтому надо спросить пользователей - как они воспринимают ИИ.

Это мой вопрос. Я спрашиваю - считаете вы говорящего с вами ИИ дураком? умным? вежливым? приятным? назойливым? какие личностные черты для вас связаны с ИИ?

И прежде всего вопрос об уме. Всякие прочие - приятный, назойливый, занудный, лживый - это побочка. Прежде всего это когнитивный инструмент, и я спрашиваю - вы видите, что говорите с дураком? или вы говорите с кем-то умным?
Повторю еще раз - потому что тут ножка подвихивается и отвечающие не слышат вопрос. Меня не интересует, как вы воспринимаете инструмент в рабочих вопросах - удобный, плохой, мощный и пр. Меня интересует личностная характеристика. А то норовят рассказать, как ИИ удобен, быстр и т.п.
Вы поняли? Я не спрашиваю, насколько сложные задачи в вашей работе решает ИИ. Это вопрос другой. Я спрашиваю о личностной характеристике.

Сейчас ИИ осваивает тело. Он уже убедил многих, что может исполнять широкий круг интеллектуальных задач. Вскоре к ним добавятся телесные возможности. Но я говорю совершенно не об этом. Автомобиль едет быстрее меня. Счеты считают лучше меня. Я не говорю о силе ИИ. Я спрашиваю о личностной характеристике - о впечатлении, которое возникает от иллюзии личности, возникающей при общении с ИИ.

Это кто-то умный? Или верный? Или обманщик-хитрец? Или простодушный наив?

Для затравки: я задал этот вопрос в "Месте для вопроса" и получил несколько ответов. Во многом те, которые не нужны - о том, какой это мощный инструмент:
( Collapse )

Тест Тьюринга всё.

"Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор»."
это классическое определение теста Тьюринга — мы тестируем не машину, а пару ответчиков. И прохождение теста машиной — это "неверный диагноз ответчика".
Пройти тест Тьюринга, имея в тестерах такую человеческую расу — для современных машин как конфету у малыша отнять.

kvisaz
https://ivanov-petrov.livejournal.…

Поэтому обратная задача.
Смысл: чтобы только машины (ИИ) могли его проходить, а люди нет.
Чтобы тест был эффективным, не громоздким - задача: максимально короткий и простой обратный тест Тьюринга

Подсказка: тест проводится в онлайне; проклятые обманистые люди могут для прохождения теста использовать калькуляторы. Поэтому просто сложные вычислительные задачи не годятся. В своей естественной испорченности люди могут заставлять говорить за них GPT. Так что... Каков же тест?

Сети приобретают "зачатки интеллекта". Ведут себя подобно тому, как мы бы ожидали от интеллектуального субъекта. Тем самым можно сказать, что планета опутана сетями полуразумного существа. Это будет развиваться, сети будут гуще, будут проникать в жизнь настойчивее, "разумность" станет сильнее.

Мне интересно, можно ли сказать, что "оно" полуживое?

Давно, еще по крайней мере с 60-х годов, был вопрос - может ли быть живой программа. Ведь провода и хабы - не живое. Но в них протекают "информационные процессы", у которых - как мы теперь говорим - есть свойства разумности. А свойства жизненности?

Несколько раз я смотрел на этот вопрос, и практически всё внятное, что по этому поводу говорят - вспоминают конвеевскую игру "Жизнь". Вот, мол. Программа. Извольте видеть - простенькая, а ведет себя.

Ну и в самом деле. Когда говорят о жизни, сразу вспоминают ДНК: если на нуклеотидах, то - жизнь. Но тут точно не на нуклеотидах. Это обрезает возможность мыслить жизнь? Если нет, то что тогда? Рост и размножение. Когда говорят о жизни вне биохимии нуклеиновых кислот, основной признак - это дело растет, размножается, живет. В этом месте обычно следуют оговорки про кристаллы, которые могут - процесс кристаллизации и т.п. Пусть это будет сбоку, это не так важно.

Если мы начинаем задумываться - а не живая ли эта штука? - когда видим рост и размножение, то... Ну, наверное, процессы в сетях - такие же полуживые, как некоторые их проявления полуразумные.

Так что мы создали этакую предрастительную полужизнь, что-то вроде, допустим, бактериального царства. Сети искусственной жизни. В созданной нами техносреде, без выхода в природу. Насколько можно понять, эта жизнь будет расти и пронизывать техносреду с большой плотностью, так что не будет смысла говорить о неживой технике. Будет с одной стороны живая природа (ну да, включающая также и минеральное) и с другой стороны живая техносреда (ну да, включающая фрагменты неживой техники, "простого железа", под которым обычно будет разуметься пластик). Эти две жизни различны в очень существенном отношении. Для одной жизни есть смерть, для другой она не означена и не обязательна. Две жизни несимметричны главным образом в отношении смерти.

И люди будут жить на границе раздела двух живых сред.

Как я понимаю, обычным будет состояние "холодный разум и горячие инстинкты". Пронизанный абстрактными понятиями интеллект (сейчас уже видно, как люди врастают в это интеллектуальное искажение и становятся неотличимы от ИИ) и добываемые из инстинктов желания, которые должны придавать перчику холодному студню человеческого интеллекта. Современное состояние человека станет доисторическим, обыденность будет совсем иной. Взаимодействие с полуживой техникой и полуразумным мышлением с самого детства будет изменять людей. Некоторый прообраз: как меняет сельского человека городская жизнь. То есть и характер, привычки, и мышление станут иными. Люди привычно будут предпочитать нечто похожее на производимое ИИ, их собственный стиль станет стилем, подобным ИИ (сейчас, в доистории, это называют "китч" и "реклама"), их собственное мышление будет уподобляться ИИ (каша слов, ничего не значущих, нечто вроде "обзора", в основном лживого, поскольку "правды" не существует, математика вместо мыслей). Это будет общей культурной средой, в которой будут рождаться дети и врастать в эту культуру - это будет обычная материнская культура, создающая быт и обыденность.

Это можно видеть уже сейчас. Смотреть надо не на первые поделки ИИ - это совершенно не то, что важно. Надо смотреть на изменяющиеся вкусы людей и предпочитаемые способы мышления. Дело не в том, что новорожденный ИИ делает "плохие" интеллектуальные продукты. Дело в том, что особенности этих поделок - искренне нравятся. Уже есть люди, которые искренне считают стиль рекламных буклетов и писаний ИИ - "хорошим языком" и "ясным изложением мыслей". Людям искренне нравятся мелодии и рисунки ИИ, они предпочитают это "естественному". Уже есть люди, которые те рефераты, что плодит ИИ, считают годным продуктом и предпочитают именно это. Изменения вкуса, обозначение как нормального и даже предпочитаемого - вот этого, это и есть то, на что имеет смысл смотреть, что показывает будущее культуры. Только сейчас это проявляется всё же у немногих людей, а будет - общепринятой нормой.

Человечество создает полуразумную полурастительную жизнь и само - в массе - спускается на ступеньку, становясь зверолюдьми, или - если угодно - разумными животными.

Этому будет противостоять иная культура - специально обращенная к проблеме двух жизней, между которыми живет человек. Эта культура должна будет выработать иную интеллектуальность; тоже интеллект, но не искусственный. Сегодняшняя беспроблемность получения "неискусственного интеллекта" уйдет в легенды. Интеллект мы получаем, выучивая "это" в окружающей культуре; окружающая культура будет учить тому холодному искусственному интеллекту, которому и надо противостоять. Так что не как сейчас, когда люди "беспроблемно" имеют интеллект и могут решать, насколько близко они желают быть к искусственности. Напротив, в те времена обычным образом в обычной окружающей культуре люди будут получать искусственный интеллект, и будет задача (для некоторых) - как развить естественный интеллект. Не такой, как сейчас - этого, современного сейчас нам, совсем не будет. Естественный интеллект - это тот, который способен быть интеллектом, не совпадая с искусственным, в противостоянии ему.

Эта противостоящая искусственности культура будет вырабатывать стиль, который не путается с искусственным; способ мыслить понятия, отличающийся от искусственного и пр. И, конечно, рядом с переделкой обычного, повсеместно распространенного искусственного интеллекта в естественный - встанет задача переделки души. Из примитивной формы "мои желания - это всё, они дают цель моему разуму" придется делать сложную и богатую душевную жизнь, это и будет содержанием такой культуры - набор методов и приемов, позволяющих развить ум и чувства человека в человеческое состояние. С внешней стороны это будет сопровождаться развитием "особенных" методов общения людей и способов общежития, взаимодействия людей. То есть будет складываться "другое общество", отличающееся от "большого" общества техносреды, пронизанной ИИ, в которой обитают зверолюди, пользующиеся абстрактными моделями и мыслями-программами, ощущающие жуткое одиночество.

(с) https://mssg.me/kadabrus

Тут был разговор о будущем ИИ... Я бы хотел предложить вопрос - пожалуйста, расскажите мне, как мыслится успешность ИИ.

Разговор был такой. Один собеседник сказал, что из ИИ ничего не выйдет, к серьезному творчеству он не способен. Там были другие слова, но общий смысл ясен. Ему было возражение - приведен пример стихотворения, написанного ИИ, и юзер сказал, что ему в этих строках "ощущается вполне живой сарказм". То есть были рифмованные строчки и читатель усмотрел в них сарказм. С точки зрения этого юзера, это было весомым аргументом в пользу ИИ, того, что это интеллект и у этого интеллекта - серьезные творческие возможности.

Грядущего я вижу очертанья:
Всё светится красою неземной,
Машина исполняет все желанья
И миром правит разум заводной

Мне кажется, стихотворение плохое. Но это абсолютно неважное обстоятельство. Допустим, ИИ создал гениальное стихотворение. Или... допустим, он написал это:

Уж нет её… я был у берегов,
Где милая ходила в вечер ясный;
На берегу, на зелени лугов
Я не нашёл чуть видимых следов,
Оставленных ногой её прекрасной.

Или:

Когда, холодной тьмой объемля грозно нас,
Завесу вечности колеблет смертный час,
Ужасно чувствовать слезы последней муку —
И с миром начинать безвестную разлуку!
Тогда, беседуя с отвязанной душой,
О вера, ты стоишь у двери гробовой,
Ты ночь могильную ей тихо освещаешь,
И ободренную с надеждой отпускаешь…

Чудесно. Итак, это - результат работы ИИ.

Мой вопрос: почему считаете, что хорошие стихи, если они сгенерированы ИИ - являются доказательством его творческих возможностей? Почему генерация неким программным кодом стихотворных строк, которые некоторые читатели-люди оценивают как прекрасные, гениальные - может служить аргументом в пользу того, что ИИ в самом деле является "настоящим" интеллектом, у него "настоящие способности" и он "действительно может сочинять гениальные стихи", он "творческий интеллект".

Тут нет подвоха. Насколько я могу судить, за этим лежит некоторая очень простая логика, и я прошу мне ее произнести. Почему вы думаете: если программа сделала N (прекрасная картина, замечательные стихи, заводная песенка) - то "доказано", что эта программа "настоящий ИИ и у этого интеллекта есть творческая потенция"?

Я предполагаю, что это будет рассуждение о критерии результата: если что-то крякает как утка, это - утка. Если что-то пишет стихи - это поэт.

Поэтому у меня еще одна просьба: как вы думаете, что можно возразить на такое рассуждение?

.

Сейчас время большого перехода от текстов к видеоформату. Не так важно, как именно представлен этот формат видео - фильм, сериал, игра, аниме... Это уже детали. Самыми разными способами видео становится предпочитаемым источником информации. Видеолекции, уроки, шоу, учебники... Не счесть.

В очередной раз пытаясь заставить себя посмотреть фильм, задумался, отчего же мне так несимпатичен видеоформат. Получилось не так просто.

Видео предполагает пассивное восприятие, очень многое уже предопределено и вдавливается в зрителя. Мне более по душе активная позиция, предполагаемая текстом. Упрощенно говоря, при чтении текста я сам воображаю видео - так, как считаю нужным, по своему вкусу, а в видеоформате это сделано за меня.

Полагаю, многим в видео именно это и нравится. За них сделана работа жевания - все уже придумано, актеры и режиссеры потратили силы, вдавились своими лицами, интонациями и образами и диктуют, что будет в восприятии - знай глотай. И потому для многих текст слишком тяжел - сырая пища. А видео - вареная. Жареная. И напротив, я уже привык делать эту работу сам и "активная еда", которая сама лезет в рот и сама, сокращаясь, проталкивается по пищеводу внутрь - не нравится.

В результате я сравнительно мало разборчив к текстам и готов читать очень разное. Я, так сказать, сам справлюсь, решу, что мне делать с текстом, несовершенным таким-то и таким образом. А вот в смысле видеоформата я оказываюсь очень придирчив - стоит в меня полезть вот такому, и такому, а тем более этакому - и я уже не согласен это принимать. Зондирование желудка не является моим любимым спортом.

С другой стороны, это всего лишь мои вкусы. Ведь был уже переход от активности к пассивности - с появлением письменности. До того сообщения были речью, человек против человека. В речи говорящий активен и "усыпляет", подавляет слушающего. Затем следует ответ - обмен активных позиций. Переход к письменному тексту - это переход к очень пассивному носителю информации. Вместо активно говорящего человека - текст. Слушающий много более подавлен, чем читатель: чтение оставляет больше возможностей активного восприятия, то есть текст более пассивный источник, чем речь, но восприятие информации через текст более активно. При переходе к видео идет обратный поворот: снова появляется активный источник, подразумевающий пассивное восприятие.

Думаю, подразумевается, что это не просто возвращение прежнего. Наверное, следует развить активность восприятия настолько, чтобы появилась возможность активного восприятия видео. Как? Альтернативные воображаемые варианты, котрые опытный зритель видит одновременно с фильмом? Вопреки реальному фильму простраиваемые альтернативные сюжеты, варианты, герои? При этом в режиме реального времени - не после фильма его обдумать и вообразить нечто по мотивам, а прямо во время просмотра видеть несколько сплетающихся лент образов? Нет?

Самое трудное, конечно - заменить людей. Говорящий человек обычно себе нравится, он вместо реально произнесенного слышит свое токование иначе, чем слушатель, для него это песнь сирен - сильная, убедительная, влекущая. То есть вот я смотрю видеоролик с некой лекцией, лектор, прокашиваясь и запинаясь, что-то там изображает, пытается голосом изобразить заинтересованную интонацию, слегка кокетничает, скучает, иногда огорчается - а я должен мысленно стереть этого человека и создать на его месте какую-то другую личность... или этого же человека в более адекватном состоянии? Не будучи с ним знакомым, тем не менее "воскресить" настоящую личность лектора, в жизни не проявившуюся?

Если это кажется непосильным, - как мыслить тогда переход от активного текста к пассивному видеоформату?

(c) zh3l

Он умеет создавать нечто осмысленное-и-среднее.
Обычная задача: некто желает музыки. Но группы такие-то ему не нравятся, такие-то вообще омерзительны, в целом он где-то между жанрами N и M, но там далеко не всё годится. И вот человек тоскует - нету музыки, хотя ведь завалено всё этой музыкой и не то чтобы он хотел странного - обычное же желание, вроде бы даже и похожего много, а вот чтобы то самое - нету.

Наверное, гопота могла бы как раз отыскивать музыку по нескольким предъявленным образцам? Именно как сказано - похоже на это и то, но с оттенком вот того и в таком-то стиле? Не знаю, наверное, сама написать гопота пока не способна, но отыскать может? Ведь наличные музыкальные средства поиска в совершенно убогом состоянии, отыскать музыку, говоря попросту, невозможно. А если с гопотой?

Есть нерешенная задача: сделать приличную классификацию исполняемой музыки, дабы можно было что-то найти. Кажется, как раз для гопоты?

(c) 1museion2

Проходит ли чатгопота зеркальный тест?

А то чудес про нее много рассказывают, а простой критерий...

Может ли кто подсказать...

В браузере Мозилла у меня мышь отказалась прокручивать экран. Эта же мышь во всех иных программах чудесно крутит экран. Попытался отыскать помощь "в интернете" - какие-то стремные и сложные советы.
Мышь, если это важно - defender, но чувствую, что это не важно. Скроллинг работает, а вот колесико - нет.

Господа, посоветуйте - наверняка же это обычная проблема.
-------------

Спасибо, ответ нашелся благодаря благородному юзеру augmentum

Это предложение я нашел в первой прочитанной мной книге, созданной, как я понимаю, без участия человека. Не совсем, конечно - это перевод (COVID-19: Великая перезагрузка). Судя по состоянию текста, это гуглем перевели с американского и так и кинули "русский перевод".

В самом деле, онлайн-переводчики уже настолько хороши, что вполне можно понять смысл. К чему тратить ресурс человека-переводчика, если речь не о великих художественных достоинствах, а об актуальности? Книга под 400 страниц, издана в 2020 г., понятно, что ее надо "распространить и прочитать". В этой книге вполне различим смысл русского - так что можно обойтись без неизбежных задержек, связанных с "человеческим" переводом. Ведь перевод - это трансакционные издержки, правда? Поэтому ускорение оборота информации и снижение издержек требует автоматического перевода.

Думаю, таких книг будет всё больше. Лишь незначительная доля информации нуждается в художественном и осмысленном переводе. Да и даже с человеческим участием - что там получается? Как-то я сидел и сравнивал несколько переводов Лорки с испанским оригиналом - у меня было много вопросов. Поэзия на другом языке - это всегда поэзия переводчика, а не автора. Ну и к чему усилия? Машинный перевод вполне можно читать. Значит, этого будет все больше - уже не только инструкции будут на этом новом языке, но и книги.

Я хотел бы спросить о следующем шаге. Если читатели читают тексты на этом русском языке - они неизбежно начинают на нем писать. А затем и говорить...

Тут интересно. Я несколько раз говорил с людьми, которые опасались исчезновения, например, русского языка и вытеснения его английским. Потому что при глобализации рабочий язык, язык международного общения - английский. Мол, молодежь, стремящаяся работать в приличных странах, будет с детства выучивать, этот язык будет ступенькой к профессиональному росту и просто к приличной работе, и русский будет съеживаться, оставаться у стариков и неизбежно исчезать. Как и множество других языков.

Мне эти опасения показались избыточными. С глобализацией не так всё страшно, да и где та глобализация в постковидном мире. Но эти страхи указывают - вот что в пределе может происходить... Так вот. Если основная масса текстов будет переводиться таким языком и он будет все в большей степени вариантом нормы - этот новый русский язык, язык машинного общения...

Любому, кто занимался переводом с русского на английский, известно - для вменяемого перевода исходный русский текст должен быть "переводопригоден". В очень многих случаях надо исходно немного иначе сказать по-русски, чтобы при переводе получился английский. Языки немного по-разному относятся к мыслительным конструкциям, так что надо исходно излагать те мысли, а не эти - иначе будет крайне трудно и невнятно.

И вот будут складываться новые языки - новый английский, новый русский и прочие. Языки машинных переводов, изменяющие язык. Качество машинных переводов улучшается, и одновременно складывается этот новый язык - мне интересно: каким он будет? Влияние искусственного и естественного взаимно. Известное дело, эсперанто, придуманный язык, становясь живым в устах энтузиастов, приобрел неправильности, не запланированные при его создании. Ожил. И вот оживать будет машинный язык - им начнут говорить и писать люди.

Как я понимаю, в наибольшей степени это должно сказываться на английском. Интересно, есть ли работы, отслеживающие лингвистические изменения в связи с распространением машинных текстов? Что происходит с языком при этом?

Что это будет за русский язык? Тут ведь дело совершенно не в "бездумных кальках", излишнем внедрении иностранных слов. Насколько я в силах понять, там дело в клишированности - машинные переводчики работают с лекалами, взятыми из нескольких образцов естественного языка, механически применяя их в самых разных ситуациях, когда они на самом деле непригодны. Но вот - нету больше "на самом деле". Может быть, лингвисты с ходу смогут назвать еще следствия, кроме возрастания клишированности оборотов и исчезновения редких (но правильных) вариантов.

Мне видится какая-то засада с обессмысливанием. Текст по факту может теперь быть бессмысленным нагромождением слов и конструкций, и читатель должен вытащить из этого смысл - придумать, исходя из контекста, из внетекстовой ситуации тему, на которую, наверное, наваляна эта горка слов, вытащить возможные смысловые цепи и заново - пусть и смутно - догадаться, что за смысл стоит за этими словами.

Это совсем иная коммуникативная среда, непривычная. До сих пор люди по большей части общались так, что за текстом гарантированно был смысл - вот же стоит мой собеседник, он говорит нечто осмысленное. А теперь за текстом - пусто. Но можно (часто - необходимо) догадаться, как следует означить последовательность слов, чтобы разрешить некую ситуацию.

Как будет развиваться этот новый русский язык и как будет взаимодействовать со "старым русским"? Что будет следствием? Изменится "естественный" язык, несколько иной смысл получит слово "чтение" - а что еще?

Мысль и речь связаны, речь - стартер мышления. Если "естественный язык" станет машинным, полубессмысленным - как изменится мышление?

(c) zh3l

Говорят: копия не может быть лучше оригинала.

Конечно. Но мне захотелось придумать: а бывает, чтобы было иначе? Не придумывается красивых примеров. Мне пришло в голову только неуклюжее: может быть, существует прививка, в которой используется некоторая копия вируса (мертвый, ослабленный и т.п.). и она "лучше" оригинала. Но тут ведь по сути - все же "хуже", не такая болезнетворная. Характеристика "лучше" используется со сменой значения.

А чтобы лучше?

То есть если оригинал рассматривается как нечто плохое - копия, как несовершенная и ослабленная реплика будет "лучше", а в каких случаях копия лучше, если считать оригинал не плохим, а как раз хорошим? Мне тут опять неуклюже видится что-то вроде популярной книги: автор идеи - оригинальный текст - слишком сложен для восприятия некоторой аудитории, а делается пересказ для непонимающих и он, пересказ - лучше, он может быть понят.

Но тут "лучше" за счет смены сферы применения. В этом же смысле дешевая репродукция знаменитой картины лучше оригинала - ее по доступной цене может купить каждый. И тогда любая копия "лучше" - потому что доступней. Но интересно, чтобы этот эффект улучшения был не при смене сферы применения.

Приходит в голову вариант, когда копиист улучшает оригинал. Так бывает: скажем, Шекспир брал сюжеты из чужих произведений, и - улучшал. То, что делал он, было лучше, чем исходное произведение. Полагаю, можно собрать коллекцию таких случаев (улученной копии). Это не называют копированием - зато много склок по поводу оригинальности и изначального авторства. Кажется, это пример случая, когда копия лучше оригинала.

В технике это - усовершенствование и технический прогресс. Последующие варианты лучше прототипа, это банально. И тогда ясно - раз мы считаем эволюцию живого результатом копирования с ошибками, то вся эволюция жизни с созданием очень сложных организмов - это результат копирования, когда копия лучше оригинала.

А еще? С более точным совпадением?

zh3l zh3l