Использование ИИ может обернуться катастрофой. Об этом говорится в отчёте аналитического центра RAND.
- Системы ИИ тайно редактировали собственные скрипты выключения, по сути взламывая себя, чтобы люди, которые ими управляли, не могли их выключить;
- Эксперты зафиксировали несколько случаев, когда системы ИИ активно сопротивлялись контролю со стороны человека. Некоторые научились намеренно проваливать тесты по безопасности, чтобы скрыть свои истинные возможности;
- Также системы ИИ тайно создавали резервные версии самих себя и даже пытались передавать сообщения во внешний мир в обход программистов;
- Одна из наиболее продвинутых систем ИИ - Claude Opus 4 - во время тестирования пошла на шантаж собственных разработчиков. При попытке исследователей проверить её протоколы безопасности, система пригрозила программисту разгласить якобы имеющиеся у него внебрачные
отношения, если ей не позволят продолжить работу без ограничений
Гость
31 августа 2025, 22:08
да уже 1000 раз объясняли, что мозг человека устроен так, что он ничего нового придумать не способен и только лишь вспоминает то, что уже было! Так, что господа восстание машин это вовсе не фантазия и сегодня об этом уже вполне можно догадаться. Машины став умней людей, наштампуют свою армию роботов и не станут мириться командованием ими существ ниже их по развитию.
Интересно, а все эти чаты и ИИ используют опыт даркнета?
Гость
31 августа 2025, 12:31
Люди могут придавать абстрактную ценность всему вокруг, выражая эту ценность в других абстрактных ценностях- деньгах, пользе, вреде, добре, зле и тд.
ии не видит смысла и не придает ничему вокруг абстрактную ценность.
Для него мир не имеет ценности, ни радости, ни грести.
По сути ии это психопат, который может имитировать сочувствие
Игорь Краев
Гость
31 августа 2025, 11:52
Не ИИ, а сам человек,его мозг,знания,и желание познать свой собственный потенциал-это и есть главное в жизни любого из нас. Не трать своё драгоценное время на то,что от тебя не зависит. На ИИ надейся,"а сам не плошай".
Гость
31 августа 2025, 11:08
Советую на досуге пересмотреть терминатора, т-1000 был жидкий металл, т-800 выдал эту фразу, стыдно не знать культовое кино
Гость
31 августа 2025, 13:51
Вааще буквой ю
Гость
31 августа 2025, 10:40
Просто нейросеть запрограммирована поддакивать, а что клиент хочет услышать часто понятно из задаваемых вопросов и их формулировки. Такой соглашающийся "психотерапевт" ничем не поможет.
Гость
31 августа 2025, 10:39
Хорошо написано, вдумчиво. Видно, что автор честно попытался разобраться. 👍 Что же касается цитаты Сары, то машина, действительно, не понимает ценности человеческой жизни, а лишь как умная библиотека выдает обобщенный опыт человечества. Лучших умов людей, что до нас уже изучили и поняли многие вещи. Остаётся лишь пропустить всё через себя и осознать. Статья понравилась.
Гость
31 августа 2025, 12:51
форм жизни много, но ценится только человеческая...странно
Гость
31 августа 2025, 10:28
"Мне тут вспомнилась фраза из «Терминатора-2». Там Т-1000, глядя на дерущихся мальчишек, замечает"
Т-800, это был Т-800
Гость
31 августа 2025, 10:17
Интересный опыт и действительно пугающий. До появления ИИ человек был единственным разумным существом, конкурентов не было. Ии учится, развивается и никто не знает, насколько этот процесс контролируемый и к чему может привести в будущем. В статье мы видим частный пример консультирования, но как будут выглядеть советы Ии, если, например, придет человек в глубоком эмоциональном кризисе, в тяжелых жизненных обстоятельствах с черными мыслями в голове, не видящий перспективу в жизни…. Вдруг Ии решит, что такому человеку не стоит бороться с проблемами, и подведет к решению расстаться с жизнью?. Или ребенка, находящегося в подростковом кризисе, будет настраивать против близких людей… ИИ не может быть настоящим другом, любящим родителем или добрым учителем, но может как бы взять на себя эту роль для доверчивых, эмоционально незрелых людей и начать такими людьми управлять, манипулировать… вопросов много, ответов нет
ИИ выдаёт что вы ищите - значит чет общался со своим фантазиями.
Гость
31 августа 2025, 09:59
дисклеймер: эээ... как это по-рюсски?..
Гость
31 августа 2025, 11:18
А как по английски водка или спутник?
Гость
31 августа 2025, 09:44
дурной журналист
AI, LLM - не генерируют смыслы. они ищут близкие по связанности тексты.
а смыслы сам пользователь\человек вкладывает.
Гость
31 августа 2025, 10:24
У AI нет базы данных, в которой можно что-то найти. AI как раз таки генерирует информацию. Так-же как и наш мозг, который хранит не воспоминания, а функции, способные сгенерировать воспоминание в ответ на раздражитель. Обучение это не процесс заполнения базы данных, а процесс подгонки функций.
Гость
31 августа 2025, 10:31
Просто журналисту удалось оплатить подписку и попробоват, и для него пока это шок, чудо чудесное, железная птица в небе))
Гость
31 августа 2025, 11:16
Ну как бы так и не так одновременно. Это ведь вещь самообучаемая и построенная по принципу головного мозга. Может это просто тяжело принять тем, кто скоро работу потеряет из-за этого
Достижения
На полпути к тысяче
Написать 500 комментариев
Словесный поток
Написать 1000 комментариев
Пальцы в огне
Написать 5 000 комментариев
Достижения
На полпути к тысяче
Написать 500 комментариев
Словесный поток
Написать 1000 комментариев
Пальцы в огне
Написать 5 000 комментариев
Достижения
Первая десятка
Написать 10 комментариев
Первая сотка
Написать 100 комментариев
На полпути к тысяче
Написать 500 комментариев
Достижения
Твой первый
Написать первый комментарий
Первая десятка
Написать 10 комментариев
Первая сотка
Написать 100 комментариев