Что делать с «галлюцинациями» GPT / Хабр
Как я решил проблему т.н. «галлюцинаций» большой языковой модели в своем сервисе с помощью двойных зеркальных вопросов.
Кто виноват
Рассказов о так называемых «галлюцинациях» нейросети сейчас полно. И какой сейчас год она не знает, и килограмм гвоздей у нее тяжелее килограмма пуха и как сформировать культю головы бодро рассказывает…
Здесь будет уместен универсальный совет сохранять спокойствие. Это всегда хорошо, а в случае с внезапно свалившейся на нашу голову новой технологией, тем более. Проблемы с большинством сообщений о «галлюцинациях» языковой модели даже не в том, что в настоящий момент они уже скорее всего не соответствуют действительности (например, ничего из приведенного выше списка вы уже не воспроизведете). Проблема в том, что сейчас почти все сообщения такого рода начинаются с «я тут попробовал…» В этом нет ничего плохого, так как мы имеем дело с новейшей технологией. Но все же между «я попробовал» и реальной работой существует большой зазор.
Современные языковые модели так устроены, что если задаться целью их «сломать», то вас почти наверняка ожидает успех. «Пробовать» означает экспериментировать, искать экстремумы. Это почти исследовательская работа. А просто работа означает тихо, спокойно получать то, что вам нужно. Находясь при этом вдали от этих самых экстремумов и совершенно не задумываясь о том, как бы это все можно было сломать. Если взглянуть на проблему под этим углом, то окажется, что это для нереальных проблем сложно искать решения, а для реальных все значительно проще.
У меня есть сервис, который с помощью языковой модели от OpenAI преобразует вопрос на естественном языке в текст SQL запроса. Далее этот SQL запрос отрабатывает, полученные данные предоставляются пользователю. Подключение к процессу нейросети скрыто «под капотом». Пользователь просто вводит свой вопрос и получает ответ из своей же базы данных
Вопросы можно задавать любые и в любом виде. Также можно уточнять вопросы в режиме чата. Рассмотрим следующий пример
Здесь мы задаемся целью получить список «потерянных клиентов».
И в два шага получаем то, что хотели. Список формируется в точном соответствии с нашей формулировкой. Кто владеет SQL, может в этом убедиться, заглянув в текст запроса.
Так как у нас нет никаких ограничений на входе, то этот же вопрос пользователь может задать и по другому. Например, недолго думая, вот так
Как видите, результат отличается от предыдущего, который считаем правильным. Получив такую расплывчатую и неоднозначную формулировку, нейросеть не отказалась решать нашу задачу. Она взяла и придумала какое-то свое решение. Вот это самое «придумала свое» и считается чем-то нехорошим. Но давайте задумаемся, а куда мы хотим попасть? В теплый, ламповый мир приложений, разработчики которых лучше нас знают, что нам на самом деле нужно. Они все за нас решили. Дали нам два (или двадцать два, не суть) пункта меню. И жизнь наша проста и незамысловата? Но мы и так уже здесь. Если же мы придерживаемся концепции, что решать что нам нужно можем только мы сами, тогда с неизбежностью нам самим придется как-то определять, получили ли мы то, что хотели или нет.
Что делать
Для пользователя, который не владеет SQL, ситуация выглядит, как патовая. В самом деле, он может потому и обратился к сервису, что не знает SQL. А теперь ему нужно прочитать текст SQL запроса и решить — то ли это, что он хотел или не то.
Решение есть и дает его та же самая языковая модель. Она ведь может работать и в «другую сторону». Вы можете не знать SQL, но вы можете попросить языковую модель объяснить словами, что именно делает этот SQL запрос.
При нажатии на кнопку, в нейросеть отправляется запрос: «Объясни словами SQL запрос» и далее текст запроса.
Таким образом мы можем проверить насколько соответствует нашим ожиданиям то, что мы получили от языковой модели. Для сравнения приведу такое же объяснение для предыдущего примера:
Что в итоге
В общем случае, для «сферического коня» решения проблемы «галлюцинаций» больших языковых моделей, наверное, не существует. Но в конкретных рабочих ситуациях такое решение есть. Двойные зеркальные вопросы, когда вы сначала просите нейросеть решить проблему, а потом просите ее же объяснить решение в практическом применении дают очень хороший результат.
Слуховые галлюцинации при шизофрении
Слуховые галлюцинации могут быть проявлением не только шизофрении, но и ряда других психических расстройств. За исключением острых психотических состояний, человек, как правило, критически настроен по отношению к голосам в своей голове, то есть воспринимает их как нечто вменённое и страдает от их навязчивости.Напряжение, которое возникает у пациента по мере того, как он пытается усилием воли заглушить голоса или игнорировать их, может доходить вплоть до физического дискомфорта и боли. Не говоря уже о том, что человек, страдающий от слуховых галлюцинаций, не в состоянии заняться чем-либо ещё. Ему сложно заснуть, сложно сосредоточиться на работе, домашних занятиях или даже необременительном любимом деле, которое обычно не требует особой концентрации.
В клинической практике встречаются самые разные типы слуховых галлюцинаций у больных шизофренией: это могут быть голоса одного или нескольких человек, детские и взрослые, мужские и женские, знакомые и незнакомые — никакой особенной системы здесь нет.
В поддержку людей, страдающих слуховыми галлюцинациями (и при этом необязательно являющимися психически больными в привычном смысле этих слов), в 1987 г. зародилось движение Hearing Voices Movement. Оно оспаривает принятое соответствие между шизофренией и слуховыми галлюцинациями, способствует социальной реабилитации людей, страдающих от голосов в голове, и борется с их стигматизацией.
Среди прочего, именно движению Hearing Voices пациенты, которые слышат несуществующие голоса в своей голове, обязаны терапевтическим подходом, исключающим активный приём медикаментов для борьбы со слуховыми галлюцинациями. Этот подход фокусируется на когнитивных методиках, позволяющих снижать тревогу и психологическое напряжение при их появлении, переключать внимание на текущие занятия или окружающие явления и в конечном итоге снижать интенсивность возникновения голосов.
Особое значение в ходе психотерапии слуховых галлюцинаций занимают медитативные приёмы, которые помогают сосредоточиться на продуктивных занятиях. При этом совсем отказываться от медикаментов не стоит — фармакологическая поддержка при правильно подобранной дозировке и сочетании лекарственных средств только способствует успеху когнитивно-поведенческой терапии голосов.
Содержание слуховых галлюцинаций тоже может быть самым разнообразным: одни голоса беседуют с самим человеком, другие — друг с другом, голоса могут комментировать действия человека и окружающую обстановку, могут настойчиво требовать выполнить то, на что человек не решился бы по своей воле, включая насильственные действия по отношению к себе и окружающим. Поэтому признать наличие слуховых галлюцинаций и рассказать об их содержании близким особенно трудно. К сожалению, далеко не везде преодолён стереотип о том, что голоса в голове служат симптомом тяжёлого психического заболевания, и не всегда даже искренность пациента может изменить взгляд его близких на проблему.
- Шизофрения
Галлюцинации: причины, виды, диагностика, лечение
Автор Пейдж Фаулер
- Что такое галлюцинации?
- Общие причины галлюцинаций
- Слух (слуховые галлюцинации)
- Видение (зрительные галлюцинации)
- Обоняние (обонятельные галлюцинации)
- Вкус (вкусовые галлюцинации)
- Ощущение вещей (тактильные или соматические галлюцинации)
- Диагностика и лечение галлюцинаций
- Подробнее
Если вы похожи на большинство людей, вы, вероятно, думаете, что галлюцинации связаны с видением вещей, которых на самом деле нет. Но это еще не все. Это может означать, что вы касаетесь или даже чувствуете запах чего-то, чего не существует.
Есть много разных причин. Это может быть психическое заболевание, называемое шизофренией, проблема нервной системы, такая как болезнь Паркинсона, эпилепсия или ряд других вещей.
Если у вас или у вашего близкого появились галлюцинации, обратитесь к врачу. Вы можете получить лечение, которое поможет контролировать их, но многое зависит от того, что стоит за проблемой. Есть несколько разных типов.
Галлюцинации чаще всего возникают в результате:
- Шизофрении. Более 70% людей с этим заболеванием имеют зрительные галлюцинации, а 60-90% слышат голоса. Но некоторые могут также ощущать запах и вкус вещей, которых нет.
- Болезнь Паркинсона. До половины людей с этим заболеванием иногда видят вещи, которых нет.
- Болезнь Альцгеймера. и другие формы деменции, особенно деменция с тельцами Леви. Они вызывают изменения в мозгу, которые могут вызывать галлюцинации. Это может быть более вероятно, когда ваше заболевание прогрессирует.
- Мигрень. Около трети людей с такой головной болью также имеют «ауру», тип зрительной галлюцинации. Это может выглядеть как разноцветный полумесяц света.
- Опухоль головного мозга. В зависимости от того, где он находится, он может вызывать различные типы галлюцинаций. Если это область, связанная со зрением, вы можете видеть вещи, которые не являются реальными. Вы также можете увидеть пятна или формы света. Опухоли в некоторых частях мозга могут вызывать обонятельные и вкусовые галлюцинации.
- Синдром Шарля Бонне. Это состояние заставляет людей с проблемами зрения, такими как дегенерация желтого пятна, глаукома или катаракта, видеть предметы. Сначала вы можете не осознавать, что это галлюцинация, но в конце концов вы понимаете, что то, что вы видите, не реально.
- Эпилепсия. Приступы, сопровождающие это расстройство, могут повышать вероятность возникновения галлюцинаций. Тип, который вы получите, зависит от того, на какую часть вашего мозга влияет приступ.
Вы можете почувствовать, что звуки исходят из вашего разума или извне. Вы можете слышать голоса, разговаривающие друг с другом, или чувствовать, что они говорят вам что-то делать.
Возможные причины:
- Шизофрения
- Биполярное расстройство
- Психоз
- Пограничное расстройство личности
- Посттравматическое стрессовое расстройство
- Потеря слуха
- Нарушения сна
- Поражения головного мозга
- Употребление наркотиков
Например, вы можете:
- Видеть то, чего не видят другие, например насекомых, ползающих по вашей руке или лицу кого-то из ваших знакомых
- Видеть объекты неправильной формы или видеть, как предметы движутся не так, как обычно t
Иногда они выглядят как вспышки света. Редкий тип припадка, называемый «затылочным», может привести к тому, что вы увидите яркие пятна или формы. Другие причины включают:
- Раздражение в зрительной коре, части вашего мозга, которая помогает вам видеть
- Повреждение ткани головного мозга (врач назовет это поражением)
- Шизофрения
- Шизоаффективное расстройство
- Депрессия
- Биполярное расстройство
- Делирий (из-за инфекций, употребления наркотиков и абстиненции или проблем с телом и мозгом)
- Деменция
- Болезнь Паркинсона
- Судороги
- Мигрень
- Поражения и опухоли головного мозга
- Нарушения сна
- Лекарства, вызывающие галлюцинации
- Нарушения обмена веществ
- Болезнь Крейтцфельдта-Якоба
Вы можете подумать, что запах исходит от чего-то вокруг вас или от вашего собственного тела.
Возможные причины:
- Травма головы
- Простуда
- Судороги височной доли
- Воспаление пазух носа
- Опухоли головного мозга
- Болезнь Паркинсона
Вам может показаться, что что-то из того, что вы едите или пьете, имеет странный вкус. Возможные причины:
- Болезнь височной доли
- Поражения головного мозга
- Заболевания носовых пазух
- Эпилепсия
Вам может казаться, что вас щекочут, даже когда вокруг никого нет, или вам может казаться, что насекомые ползают по вашей коже или под ней. Вы можете почувствовать порыв горячего воздуха на своем лице, который не настоящий. Причины включают:
- Шизофрению
- Шизоаффективное расстройство
- Наркотики, вызывающие галлюцинации
- Белая горячка
- Алкоголь
- Болезнь Альцгеймера
- Деменция с тельцами Леви
- Болезнь Паркинсона
Во-первых, ваш врач должен выяснить, что вызывает ваши галлюцинации.
Они спросят о вашей истории болезни и проведут медицинский осмотр. Затем они спросят о ваших симптомах.
Возможно, им потребуется провести тесты, чтобы выяснить проблему. Например, ЭЭГ или электроэнцефалограмма проверяет наличие необычных паттернов электрической активности в вашем мозгу. Это может показать, вызваны ли ваши галлюцинации судорогами.
Вы можете пройти МРТ или магнитно-резонансную томографию, при которой используются мощные магниты и радиоволны для получения изображений внутренних органов вашего тела. Он может выяснить, может ли быть виновата опухоль головного мозга или что-то еще, например, в области, перенесшей небольшой инсульт.
Ваш врач вылечит состояние, вызвавшее галлюцинации. Сюда могут входить:
- Лекарства от шизофрении или деменции, такие как болезнь Альцгеймера
- Противосудорожные препараты для лечения эпилепсии
- Лечение дегенерации желтого пятна, глаукомы и катаракты
- Хирургическое или лучевое лечение опухолей
- Лекарства, называемые триптанами, бета-блокаторами или противосудорожными средствами для людей с мигренью
Ваш врач может назначить пимавансерин (Нуплазид).
Это лекарство лечит галлюцинации и бред, связанные с психозом, которым страдают некоторые люди с болезнью Паркинсона.
Также могут помочь занятия с терапевтом. Например, когнитивно-поведенческая терапия, направленная на изменение мышления и поведения, помогает некоторым людям лучше справляться со своими симптомами.
Top Picks
Что такое галлюцинации и что их вызывает м?
Что такое галлюцинации?
Галлюцинации — это сенсорные переживания, которые кажутся реальными, но создаются вашим разумом.
Они могут воздействовать на все пять ваших чувств. Например, вы можете услышать голос, который никто в комнате не слышит, или увидеть нереальное изображение.
Эти симптомы могут быть вызваны психическими заболеваниями, побочными эффектами лекарств или физическими заболеваниями, такими как эпилепсия или алкогольное расстройство.
В зависимости от причины ваших галлюцинаций вам может потребоваться посетить психиатра, невролога или терапевта.
Лечение может включать прием лекарств для лечения состояния здоровья. Ваш врач может также порекомендовать изменить поведение, например, пить меньше алкоголя и больше спать, чтобы улучшить свои галлюцинации.
Галлюцинации могут повлиять на ваше зрение, обоняние, вкус, слух или телесные ощущения.
Зрительные галлюцинации
Зрительные галлюцинации связаны с видением вещей, которых нет. Галлюцинации могут быть связаны с объектами, визуальными образами, людьми или светом.
Например, вы можете увидеть человека, которого нет в комнате, или мигающие огни, которых никто не видит.
Обонятельные галлюцинации
Обонятельные галлюцинации связаны с обонянием. Вы можете чувствовать неприятный запах, когда просыпаетесь посреди ночи, или чувствовать, что ваше тело плохо пахнет, когда это не так.
Этот тип галлюцинаций может также включать запахи, которые вы находите приятными, например, запах цветов.
Вкусовые галлюцинации
Вкусовые галлюцинации аналогичны обонятельным галлюцинациям, но они включают ваше чувство вкуса, а не обоняния.
Эти вкусы часто бывают странными или неприятными. Вкусовые галлюцинации (часто с металлическим привкусом) являются относительно частым симптомом у людей с эпилепсией.
Слуховые галлюцинации
Слуховые галлюцинации относятся к наиболее распространенным типам галлюцинаций. Вы можете услышать, как кто-то разговаривает с вами или говорит вам делать определенные вещи. Голос может быть злым, нейтральным или теплым.
Другие примеры галлюцинаций этого типа включают звуки, например, когда кто-то ходит по чердаку, или повторяющиеся щелчки или постукивания.
Тактильные галлюцинации
Тактильные галлюцинации связаны с ощущением прикосновения или движения в вашем теле. Например, вы можете почувствовать, что по вашей коже ползают жуки или что ваши внутренние органы двигаются. Вы также можете почувствовать воображаемое прикосновение чьих-то рук к своему телу.
Психические расстройства
Психические заболевания являются одной из наиболее частых причин галлюцинаций. Шизофрения, деменция и делирий — вот несколько примеров.
Употребление психоактивных веществ
Употребление психоактивных веществ является еще одной довольно распространенной причиной галлюцинаций. Некоторые люди видят или слышат вещи, которых нет после употребления слишком большого количества алкоголя или наркотиков, таких как кокаин.
Галлюциногенные препараты, такие как ЛСД и фенциклидин, также могут вызывать у вас галлюцинации.
Недостаток сна
Недостаток сна также может привести к галлюцинациям. Вы можете быть более склонны к галлюцинациям, если не спали несколько дней или не высыпались в течение длительного периода времени.
Также возможны галлюцинации непосредственно перед засыпанием, известные как гипнагогические галлюцинации, или непосредственно перед пробуждением ото сна, известные как гипнопомпические галлюцинации.
Лекарства
Некоторые лекарства, принимаемые для лечения психических и физических заболеваний, также могут вызывать галлюцинации. Болезнь Паркинсона, депрессия, психоз и лекарства от эпилепсии могут иногда вызывать симптомы галлюцинаций.
Другие состояния
Другие состояния также могут вызывать галлюцинации. Среди них могут быть:
- высокая температура, особенно у детей и пожилых людей
- мигрень
- социальная изоляция, особенно у пожилых людей
- судороги
- глухота, слепота или проблемы со зрением может заставить вас видеть мигающие фигуры или яркие пятна)
- неизлечимых заболеваний, таких как 3-я стадия ВИЧ (СПИД), рак головного мозга или почечная и печеночная недостаточность не реально. Ваш врач спросит о ваших симптомах и проведет медицинский осмотр. Дополнительные тесты могут включать анализ крови или мочи и, возможно, сканирование мозга.
Если у вас еще нет специалиста по психическому здоровью, инструмент Healthline FindCare поможет вам найти врача в вашем районе.
Если вы знаете кого-то, у кого галлюцинации, не оставляйте их в покое. В некоторых тяжелых случаях страх и паранойя, вызванные галлюцинациями, могут привести к опасным действиям или поведению.
Всегда оставайтесь с человеком и отправляйтесь с ним к врачу за эмоциональной поддержкой. Вы также можете помочь ответить на вопросы об их симптомах и частоте их возникновения.
Если вам нужна помощь в поиске лечащего врача, воспользуйтесь нашим инструментом FindCare здесь.
Ваш врач сможет порекомендовать вам наилучшую форму лечения, как только выяснит, что вызывает ваши галлюцинации.
Лекарства
Лечение ваших галлюцинаций полностью зависит от их основной причины. Например, если у вас галлюцинации из-за тяжелой алкогольной абстиненции, врач может назначить лекарство, которое поможет успокоить вашу нервную систему.
Дополнительные тесты могут включать анализ крови или мочи и, возможно, сканирование мозга.
