Заразное свойство и социальные институты правды
По случаю думал, какое свойство распространяется от ИИ на людей - чем он заражает.
Это не так просто сказать. Если вглядываться в тексты ИИ - там много признаков, глаза разбегаются. И он же может быть очень разным - вот хотя бы нейрорадищева вспомнить.
Потом понял. Надо смотреть не на тексты ИИ, нет - они ничем не помогут. Надо смотреть на тексты людей, которые много, охотно, с большим интересом пользуются ИИ. Которые болеют за то, чтобы ИИ вошел в жизнь. Которые его изучают и пропагандируют.
Опять же, если смотреть, что они говорят - много чего. Например, важно не кто говорит, а что. Много разного...
Из всего, что говорят, надо отыскать неотторжимое качество. То, что возникает практически всегда. Между прочим, у самого ИИ этого нет - он же не человек, это человеческое качество, поэтому у ИИ этого нет, но люди, которые много с ним работают, проникаются, разговаривают, любят - этим заболевают.
Это лживость.
У ИИ этого нет. Когда говорят, что он не имеет понятия о правде и врет как дышит - это метафора, это как будто бы он был как человек, тогда бы такие тексты стоило так характеризовать. Но у самого ИИ, конечно, нет ни лживости, ни правдивости.
А вот у этих самых - назовем для краткости "сторонников ИИ" - развивается потеря чувствительности к этому качеству. Они принюхиваются и перестают понимать, о чем речь. Они говорят о точности ответа, о соответствии его промптам, о релевантности и прочих делах. Но в них самих расцветает это белое онемелое пятно на душе - они перестают понимать, что такое "неправдивость".
Для них это выглядит так: причем тут правда и ложь? Есть множество слов, которые лучше и точнее характеризуют ситуацию, не правда ли? Вот игра, вот забава, вот моделирование, вот фантазирование, вот изучение, да мало ли слов. Разумеется, совсем не всякое фантазирование или моделирование - ложь. А тогда это можно перевернуть: назовём это фантазированием, любопытством, конструированием - и вот это уже и не ложь, по крайней мере - не докажете.
Дело, конечно, не в том, что прежде не было лгунов. И люди такие всегда были, и даже были профессии, способствующие развитию таких качеств, рискованные в этом отношении. Но есть нюанс. Насколько я понимаю, в этих профессиях речь шла о мотивированном вранье. Приходилось врать, потому что выгодно - и по другим подобным причинам, человек привыкал врать. Тут несколько иная ситуация.
В ситуациях "психологической лживости" - ну вот когда это самое мотивированное вранье, из корысти, из желания достигнуть цели и пр. - там есть некоторый порог, поначалу человеку противно, там ступенька, он поначалу не хочет и уговаривает себя, что это нужно для дела, что это пустяк - и потом, со временем, привыкает лгать.
А в случае заражения от ИИ возникает другой вид лжи - это не "психологическая лживость", это лживость интеллектуальная. Порога там почти не видно, переход осуществляется очень легко. Это же просто такая игра, это любопытство и исследование нового в мире - ну какая это ложь? И в процессе этого - такого, с такими средствами - исследования, человек просто теряет понятие правды. Его же можно заменить, да? Сколько есть прекрасных слов. Доказательность, обоснованность, валидизация, проверяемость, подтверждаемость... Если что-то проходит проверки, если удовлетворяет критериям, - это ведь правда, не так ли?
Разумеется, правду мы выясняем, рассматривая критерии, доказательства и проверки. Но ведь ситуацию можно перевернуть? Это мы извне не знаем, что - правда, и тогда изучаем доказательства, а изнутри-то мы знаем, где ложь. Но если перевернуть, то мы забыли, что такое ложь, и полагаемся на внешние проверки - и тогда мы можем лгать, пока не попались, да и тогда - ну, попались... Это же весело! Если перевернуть, если не знать, что нечто с самого начала было ложью, а смотреть только на то, как это внешне показывается - то вполне можно обойтись без понятия правды.
Это только первые шаги. Мне интересно, какие дальше там ступени этической эволюции. Что с необходимостью будет возникать на следующих шагах.( Collapse )
Это не так просто сказать. Если вглядываться в тексты ИИ - там много признаков, глаза разбегаются. И он же может быть очень разным - вот хотя бы нейрорадищева вспомнить.
Потом понял. Надо смотреть не на тексты ИИ, нет - они ничем не помогут. Надо смотреть на тексты людей, которые много, охотно, с большим интересом пользуются ИИ. Которые болеют за то, чтобы ИИ вошел в жизнь. Которые его изучают и пропагандируют.
Опять же, если смотреть, что они говорят - много чего. Например, важно не кто говорит, а что. Много разного...
Из всего, что говорят, надо отыскать неотторжимое качество. То, что возникает практически всегда. Между прочим, у самого ИИ этого нет - он же не человек, это человеческое качество, поэтому у ИИ этого нет, но люди, которые много с ним работают, проникаются, разговаривают, любят - этим заболевают.
Это лживость.
У ИИ этого нет. Когда говорят, что он не имеет понятия о правде и врет как дышит - это метафора, это как будто бы он был как человек, тогда бы такие тексты стоило так характеризовать. Но у самого ИИ, конечно, нет ни лживости, ни правдивости.
А вот у этих самых - назовем для краткости "сторонников ИИ" - развивается потеря чувствительности к этому качеству. Они принюхиваются и перестают понимать, о чем речь. Они говорят о точности ответа, о соответствии его промптам, о релевантности и прочих делах. Но в них самих расцветает это белое онемелое пятно на душе - они перестают понимать, что такое "неправдивость".
Для них это выглядит так: причем тут правда и ложь? Есть множество слов, которые лучше и точнее характеризуют ситуацию, не правда ли? Вот игра, вот забава, вот моделирование, вот фантазирование, вот изучение, да мало ли слов. Разумеется, совсем не всякое фантазирование или моделирование - ложь. А тогда это можно перевернуть: назовём это фантазированием, любопытством, конструированием - и вот это уже и не ложь, по крайней мере - не докажете.
Дело, конечно, не в том, что прежде не было лгунов. И люди такие всегда были, и даже были профессии, способствующие развитию таких качеств, рискованные в этом отношении. Но есть нюанс. Насколько я понимаю, в этих профессиях речь шла о мотивированном вранье. Приходилось врать, потому что выгодно - и по другим подобным причинам, человек привыкал врать. Тут несколько иная ситуация.
В ситуациях "психологической лживости" - ну вот когда это самое мотивированное вранье, из корысти, из желания достигнуть цели и пр. - там есть некоторый порог, поначалу человеку противно, там ступенька, он поначалу не хочет и уговаривает себя, что это нужно для дела, что это пустяк - и потом, со временем, привыкает лгать.
А в случае заражения от ИИ возникает другой вид лжи - это не "психологическая лживость", это лживость интеллектуальная. Порога там почти не видно, переход осуществляется очень легко. Это же просто такая игра, это любопытство и исследование нового в мире - ну какая это ложь? И в процессе этого - такого, с такими средствами - исследования, человек просто теряет понятие правды. Его же можно заменить, да? Сколько есть прекрасных слов. Доказательность, обоснованность, валидизация, проверяемость, подтверждаемость... Если что-то проходит проверки, если удовлетворяет критериям, - это ведь правда, не так ли?
Разумеется, правду мы выясняем, рассматривая критерии, доказательства и проверки. Но ведь ситуацию можно перевернуть? Это мы извне не знаем, что - правда, и тогда изучаем доказательства, а изнутри-то мы знаем, где ложь. Но если перевернуть, то мы забыли, что такое ложь, и полагаемся на внешние проверки - и тогда мы можем лгать, пока не попались, да и тогда - ну, попались... Это же весело! Если перевернуть, если не знать, что нечто с самого начала было ложью, а смотреть только на то, как это внешне показывается - то вполне можно обойтись без понятия правды.
Это только первые шаги. Мне интересно, какие дальше там ступени этической эволюции. Что с необходимостью будет возникать на следующих шагах.( Collapse )