Искусственный Интеллект, лекция от 20 ноября

Материал из eSyr's wiki.

Предыдущая лекция | Следующая лекция

Экспертные системы

Специалисты в области ИИ, накопив опыт в решении различных теоретических задача, решились заняться исследоваими в области рпактических задач. Первым иссл. в этой области были экспертные системы.

Экс. система --- выч. система, в которой представлены знаниями специалистов в некоторой узкой деятельности (экспертов), и которая в рамках этой области может решать задачи, которые решает эксперт в этой области, то есть решать задачи на уровне эксперта.

Вопрос на экзамене: Что такое ЭС.

Можно указать главные свойства ЭС:

• ЭС ориентированы на решения практических (написано на флаге создателей ЭС) задач в труднореализуемых (связано с тем, что делается система ИИ; если бы всё было хорошо описано, то писалась бы обычная программа, которая хорошо бы решала обычные задачи) и узких (по бедности) областях
• Результаты работы должны быть сравнимы с результатами человека-эксперта. В то время понятие «эксперт» было довольно узко, «судмедэксперт», эксперт как узкий специалист; слово было заимствовано из англ, где оно понималось именно так
• Прозрачность решения. Решение должно быть понятно и человеку-неспециалисту, который экспертом не является
• Совокупность знаний ЭС должна быть открытой

Какая предлагалась парадигма использования ЭС (в наше время она очень сильно устарела): допустим, есть не очень опытный специалист (сразу возьмём задачу медиц. диагностики), который затрудняется в постановке диагноза. Как можно поступить в такой ситуации? Можно достать справочник, студенческие конспекты, кому-то позвонить... Предлагалось и такое: у врача есть компьютер, он может вызвать программу, в которой представлены знания врачей-диагностов. Врач обращается на формальном языке к системе, задаёт вопросы пациенту, вводит информацитю, и получает информацию, получает команды от системы (измерить давление, ...). Что происходит внутри системы: система получает факты, имеет прапвила вывода, и на основании фактов и правил вывода пытается установить диагноз.

Почему такая схема устарела? Создание такой системы --- процесс достаточно сожный: надо решить проблемы получения знаний, представления знаний, это всё задачи очень сложные; часто специалисты предлагают разные ответы на один и тот же вопрос, и ч этим надо разбираться; процесс создания ЭС --- процесс необыкновенно сложный. А в нынешни век коммуникации млжно выйти в телекоммуникацию и обратиться к живому врачу, и от него получим гораздо больше информации, чем от ЭС. Тем не менее, чатсь свой ств ЭС унаследовали современные системы; какиее-то вопросы, волзникавшие при создании ЭС возникают при создании штатных систем; кроме того, ЭС --- веточка CS, и то, что было тогда в ИИ, применяется и сейчас.

Задача мед. диагностики была поставлена ещё в докомпьютерную эру, математики занимались поиском правил, ыормализацией...

Одна из первых ЭС была MYCIN --- решала проблему диагностики бакт. инфекций. Задача сложная, поскольку возбудителей существует много.

К лектору и его товарищу обратились знакомые военные врачи со следующей задачей% есть возбудители заболеваний (сальманеллы всякие), их несколько сотен, и надо выяснить, какой возбудитель, поскольку, хоть симптомы похожие, способы лечения должно быть разные. Два осн. способа определения: серологические реакции (когда возбудитель попадает в организм, он начинает вырабатывать антитела, и по наличию опр. антител можно понять, какой возбудитель; это очень быстрая и точная реакция) и посев (ебрётся кровь пациента, помещается в некоторую питательную среду и смотрят, какой возбудитель вырастет; эта реакция более долгая, она требует нескольких суток); почему-то сложилась схема, что сначала делали посев, потом в неясных случаях серологические реакции. Лектор и товарищ посмотрели таблицы, и выяснили, что в более 90 процентах случаев решают серолог. реакции, и это ползволяет в 90 с лишним процентов случаев сократить время с дней до часов.

Ещё одна система --- PROSPECTOR. Решала одну из задач: есть описание ситуации, нудно дать, к какому классу ситуации данная ситуация относится (задача интерпретации). Например --- есть колебания воды, полученные со спутника, и надо понять, что это за колебания (кит плывёт, стадо китов, косяк рыб, подлодка, если подлодка, то чья, куда движется, если движется в точку запуска ракеты, то плохо). Одно из реальных достижений ЭС --- открытие месторождения молибденовых (редкий металл) руд. За счёт чего можно получить выгоду и как она работает? Систсема получает данные поверхностной геологической разведки (прошли геологи, нашли камушки, пески, ручейки, горы), можно ли на основании этого понять, находится ли здесь что-то? Если может быть, то провести более подробные исследования --- направленный взрыв, по отражённым волнам можно понять толщину месторождения, имеет ли смысл его разрабатывать...

Телевизор мы не смотрим... есть в горах месторождение очень качественного угля, но добывать его невыгодно

В прошлой лекции говорили о военном применении роботов; есть военные применения ЭС. В буре в пустыне, в ираке американцы используют ЭС.

Как шла работа с системой PROSPECTOR. После сообщения фактов система строила гипотезы; возможно, некоторые гипотезы требовали подтверждения, и тогда система задавала вопросы; система могла находить противоречия в подаваемых фактов; в конце кноцов система могла сделать предположение, указать вероятность и привести доводы.

Диалог: - П: Присутствуют дайки Система запоминала с дост. пять - Присутствуют Достоверность 5 - Возможно, Достоверность 3 - Может быть Достоверность 3

На 77 шаге диалога система сказала: возможно наличие месторождения медных руд типа А с достоверностью 1,683... Потом выдавала след. инф: Осн. доводы в пользу: вид местности: энтрузивная структура Осн. наблюдения в пользу данной гипотезы: ...

Задачи, решаемые с помощью ЭС:

• Интерпретация. Пример системы: PROSPECTOR
• Прогнозирование (определение вероятных последствий заданной ситуации): PLANT/cd. Эта ЭС определяла возможные потери урожая от некоторого вредителя. Как она работала: весной биологи определяют плотность вредителя, можно учитывать информацию, связанную с погодойналичие врагов... На основании этих фактов можно спрогнозировать потери; дальшще будут работать системы, которые предлагают меры борьбы.

Что здесь интересно? Меод, который применяли прогнозисты, методм морф. прогнозрования. Юрался объект, выписывались его свойства. Действительно, можно получить достаточно интересные решения, который не может получить человек по двум причинам: человек не может перебрать все варианты, можно рассмотреть и такие варианты, которые нормальному человеку в голову не приходят.

За счёт того, что было много функ. элементов, можно было подбирать компоненты под заадчу., напримре, для задач с использованием разреженных матриц, и система позволяла конфигурировать выч. комплекс с учётом этих задач.

ЭС применялись при проектировании сверхбольших интегральных схем.

• ЭС, которые решают задачу поведение (диагностика, отладка и ремонт поведения обучаемого). Была система Guide (on ?) , которая обьучала студентов-медиков приёмам бактериальной терапии.

Области исп. ЭС:

• Медицинские задачи (больше половины --- ЭС военного назначения)
• Системы, опред. место возн. военного конфликта
• Химия. Была ЭС Дендрал, которая по результатам данных... Задача такая: известна количественная формула, известны результаты ЯМР и других наблюдений, которые помогут восстановить структурную форму вещества, что очень важно, посколько структ. формула опредляет хим. свойства. Пример: мы наверное знаем такие лек. препараты, как леометицин сентомицин, тем не менее, такие аппрааты были; это антибиотики, и оказалось, что один из них --- смесь двух изомеров. Сначлаа использовали смесь, но оказалось, что один из них вызывает побочные эффекты, поэтому научились выделять только один изомер, и изначальный препарат перестали использовать, по крайней мере внутрь. В остальных случаях использовали старый, поскольку он дешевле
• Геология
• Техника. Поисковое науч-=тех прогнозирование. Довольно много ЭС, кторые управляли работой установок, например, ядерных реакторов. Возм., мы видели в фильмах большие халы со множеством кнопок; в некоторых случаях можно перепоручить управление машине, поскольку у неё вышереакция, она не устаёт...

Возвращаемся к ЭС, посмотрим, из каких модулей будет ЭС состоять

Архитектура ЭС

В каждой ЭС должен быть решатель, то есть, некоторая системА, которая решает задачи. Поскольку в ЭС почти всегда приеняется метод решения на основе продукций, то решатель часто называют машиной вывода: машина вывода пытается налоижить правила вывода на имеющиеся факты, накладывает, если получается, и так далее.

То, что нужно для решения задач (правила вывода, ...) хранися в базе знаний.

Поскольку ЭС предполагает такой режим работы с ней, что предполагается диалог с пользователем, должен быть пользовательский интерфейс. Если система управляет роботом, агентом, то пользовательский интерфейс может оутствовать.

Должен быть интерфейс администратора. Мы говорили, что открытость БЗ может быть достигнута хзирург путйм --- все обновления вносит вручную администратор.

Должна быть подсистема приобретения знаний. Такую функцию можно реализовать через админ инт., но такая подсистема должна быть.

Специфический для ЭС модуль ---- подсистема объяснений. Этот модуль связан с тем, что к системе обращается не очень опытный специалист, а ЭС замещает опытного специалиста. Наличие такого модуля связано с тем, что отвечает за решение пользователь, поэтому система должна объяснить, почему такое решение получено, почему оно верное.

Мы говорили, что основной метод представления знаний – метод с использованием продукций. (Прапвил вида P: α → &betal)

• Выбираются правила на основе предусловий. Дальше с этим множество кандидатов начинают работать серъёзнее
• Сопоставление. Берётся состояние φ, и к нему применяется кандидат. При этом может происходить означивание каких-то переменных
• ... конфликтов. Среди применимых правил, которые можно применить к ситуации φ? применимо несколько правил, и нужно выбрать одно. Для этого может быть реализован какой-то эвристический алгоритм
• Применяем правило и получаем новый факт. Был факт φ, получили факт φ'. Потом, разумеется, возврат на начало.

Что очень важно. Что при исп. микропродукционных правил есть абсолютная свобода в решении задачи «какое правило применять следующим».

Подобная запись правил встречалась ранее минимум два раза:

• Алгоритмы Маркова
• Выводы в констурляторах

Там есть алгоритм выбора, здесь же выбор свободен. У теорем могут быть рекоммендации, и их можно выбирать после пременения текущей теоремы в первую очередь.

Леткор не будет рассматривать тривальный пример, который есть в конспектов: есть несколько фактов и несколько правил.

Есть правила R1, R2, R3, R4 и факты F1, F2, F3.

В книгах по ЭС были задачи, которые кочевали из книги в книгу; одна из них --- зоопарк (есть животные, по призракам распознать, что за животное); другая задача --- утечка химвеществ --- происходит утечка потенциально опасного вещества, могут произойти неприятные последствия; задача определения размера страховых выплат.

Правило 1: Разлита горючая жидкость --- звонить 2: Разлита уксусная кислота --- исп. известь 3: pH меньше 6 --- это кислота 4: если кислота и имеет запах уксуса, то это уксусная кислота.

Факты 1: Разлита жидкость 2: pH меньше 6 3: Есть запах уксуса

На осн. 1 и 2 правило 3 --- разлита кислота. правило 4 --- уксусная кислота; правило 2 --- испольовать известь.

Это элементарно.

С каждым фактом можно связать числовой показатель (δ1, δ2, δ3), а каждому правилу сопоставить формулу, которая определяет результирующую достовернотсь.

С чем мы здесь сталкиваемся: может возникнуть такая же неприятность, как и в случае нарушения монот. рассуждений: оказывается, что некоторый, из фактов, на который мы опирались, имеет не ту достоверность, на которую мы расчитывали. Здесь тоже, ели меняется дост. некоторого факта, то надо всё пересчитывать --- распространение вероятности.

Метазнания. Знания о знаниях. Должны описывать возможные преобразования знаний. Поскольку нач. описание среды может быть неточным, недостоверным, могут происходить события в проблемной среде...

1. Использование метазнаний для выбора правила. Пусть есть како-то правило. Это прпавило можно снабдить, помимо всего прочего, метаописанием: «источник --- профессор такой-то», «стоимость», «результат применения правила» М етаописание попадает всё, что не пишут в само правило.

Помимо метаописаний, должны быть метаправила. Метаправила работают с метаописаниями и исопльзуются на этапе разрешения конфликтов. Пример метаправила: «использовать правило от опытного специалиста», «минимальное по стоимости».

Второй случай использования метазнаний --- для подсистемы объяснений. Это некое описание, здесь может находиться какая-то информация, показывающая, почему такое правило целесообразно применять. Например, для тушения песком «песок прекращает доступ воздуха и горение прекращается; использование песка дёшево»

Третий случай исп. --- нечто, похожее на контроль целостности в БД, это средство, позволяющее проверить, правильно ли записаны правила в БЗ. неприятности при записи правил:

• В БД есть нормальные формы, в частности, требуется отсутствие пустых ячеек. Аналогично, Может быть так, что пропущено предусловие...

4. Стратегические знания --- для эвристик. Если объём пространства небольшой, то система может это оценить и предложить полный перебор.

Что же можно объяснять:

• Как получено решение
• Как использована некоторая информация
• Почему не использована некоторая информация

Для кого нужны объяснения --- для пользователя, который работает с ЭС. Поскольку основная ситуация --- задача для пользователя слишком трудна, поэтому он обращается к ЭС, и она должна ему обхяснить решение.

Есть ещё 2 роли, которые играют важную роль в ЭС: эксперт и инженеры знаний.

• Эксперт --- тот самый специалист, которого должна заменить ЭС
• ИЗ извлекает знания. Вторая и главная задача --- представление знаний.

Для этих людей тоже нужны подсистемы объяснений. Для чего она нужна Эксперту? Подсис. объясн. можно рассматривать как протокол решения, и протокол этот долен быть схож с тем, как решал задачу эксперт. Инженеру знаний надо проверить, правильно ли он решил задачу представления знаний.

Некоторые вопросы, касающиеся тех. стороны построения ЭС.

Этапы построения ЭС:

• Выделение проблемной области. Результатом этого этапа должна явиться более-менее формальная характеристика поведения ЭС (какие задачи, как должна решать, какой интерфейс). Кроме того: какие выч. ресурсы, каких экспертов призвать... Был казус в своё время: когда составляли расписание, высокое начальство смутили термины пустая ЭС и ИЗ
• Концептуализация. Нужно дать серьъёзное формальное описание проблемной области, объекты, взаимосвязи между ними, действия, которые можно выполнять с объектами. Строится некая антология.
• Реализация
• Проверка и тестирование. Если при создании штатного ПО осн. внимание уделяется тестированию алгоритмов, то здесь ситуация иная --- исполнительные модули невелики, зато надо отлаживать базу знаний --- трудоёмкий и ресурсоёмкий процесс. Возникают те же проблемы, что и при тестировании обычных программ, но применительно к БЗ: получить набор тестов.

Три стадии:

• Прототип --- версия системы, которая не отчуждена от разработчика. Прототип реализуется не на штатных ЯП, а на языках высокого уровня.
  • Демонстрационный прототип --- самый простой вариант. Саый простой вариант --- несколько экранов
  • Исследовательский прототип. Уже есть некая реализация. Система работает, но решает очень простые задачи. Система работает по полному циклу. С ней уже можно экспериментировать.
  • Действующий прототип. Система, которая решает реальные задач. Здесь оценка быстродействия системы.
• Система. Переход от прототипа к системе знаменуется тем, что разр. отчуждается от системы. Это принципиально важно. Здесь выделяют два уровня:
  • Промышленный. Где-то в небольошм количестве экземпляров
  • Коммерческий. Коммерческий продукт --- коробочка с кипой инструкций.

Момент, который связан искл. с ЭС. Может возникать вопрос, нужно ли создавать ЭС для решения данного класса задач. У вопроса две стороны: нужно ли создавать вообще систему и будет ли она экспертной. Считалось, что за ЭС нужно браться , эсли разраб. возможна (задача не очень трудная, существуют хорошие эксперты, эксперты единодушны и могут описать свои знания), оправдана (решение высокорентабельно, когда экспертов мало, когда применние нужно в самых разнооб местах, когда применение автономных ЭС нужно в некомфортных для человека условий) и разумна (когда задача не слишко проста, требует исп. ИИ, когда задача имеет практ. интерес, эксп. система оказывается реализуемой).

Пример из реальной жизни: была построена очень хороошая ЭС под названием Фиакр (в институте Молдавии) для диагностики заболеваний томатов (основная культура в Молдавии). Был замечательный специалист-старичок, чуть ли не единственный специалист в Молдавии, но у него было одно нехорошее свойство --- он был пьяница, и нужно было посылать агента студента, кототрый смотрел, не проснулся ли он, не вышел из запоя.

Это результат эмпир. разработчиков ЭС. Обычно оказывается, что задача или слишком сложная, или слишком простая. Должны быть квалиф. разраб в достаточном количестве. Должны быть эксперты. Эксперты должны уметь объяснить свои знания.

Проблема, связанная с порядком слов: ты нашёл хорошую компанию. Теперь переставим порядок слов: хорошую ты компанию нашёл.

Правила, которые формулирует эксперт, могут быть не очень хорошими.

Проблемы на этапе реализации: проблемы, связанные с выбором инструментальных средств.

некоторые эмпирич. правила: «чем более компетентен эксперт, тем менее он способен описать свои знания». «Не будьте своим собственным экспертом» --- эксперт и инженер знаний должны быть разнесены по двум разным субъектам; это нужно для того, чтобы было минимум две точки зрения на проблему. «Не принимайте на веру всё, что говорят эксперты»

Реализация ЭС. Как уже лектор говорил, реальные ЭС написаны на штатных ЯП. В то же время, существовала такая идея любопытная: есть ЭС, у неё есть решатель, и есть Бзю Попробуем поступить так: сделаем БЗ независимой от основной части, чтобы потом БЗ заменить. Допустим, есть система для решения задач мед. диагностики, и есть БЗ тех. диагностики, и попробовать заменить БЗ. Ничего хоршего из этого, как и в случае с синт. управляемой трансляцией, не получилось. Тем не менее, была предложена система EMYCIN --- пустая ЭС, в которую можно встроить любую БЗ, и которая будет решать задачи диагностики.

Методы извлечения экспертных знаний

Сформировались методы извлечения экспертных знаний

• Самый простой первый. Наблюдение на рабочем месте. Эксперт решает реальные задачи, ИЗ за ним наблюдает и старается получить предст. о тех задачах, которые решает эксперт. Как это технически реализуется --- рядом сидит ИЗ и что-то записывает
• Обсуждение задач. что здесь интересно --- ИЗ старается понять, какие понятия фигурируют в задачах, какие гипотезы, как эксперт раюботает с неполной, противореч. инф., какие методы используются
• Описания задач. ИЗ даёт эксперту некоторые задачи и просит рассказать, как экс. решает эти задачи: разбивка на подзадачи, связи между ними, разбиение задач на классы. Цель --- описание протсранства задач
• Анализ задач. Инженер знаний предлагает экс. задачи и просит комментировать решение задачи. Цель ИЗ --- постараться узнать, как экс. решает задачи, какие методы, стратегии используются при решении
• Начинает появляться ЭС, появился прототип. Можно перейти к шагу доводки системы. Эксперт работает следующим образом. Он предлагает ИЗ решить задачи, и те же задачи предлагаются решить ЭС. Нужно посмотреть, правильно ли ИЗ понял эксперта, если убеждается, что правильно, то правильно ли формализовал и записал в БЗ
• ЭС появилась, надо дать оенку. Эксперт анализирует работу ЭС, работает с подсис. объяснений, проверяет совок. правил.
• Желательно получить объективную картину того, что получилось. Проверка ЭС. Здесь привлекаются сторонние эксперты и предъявляются протоколы решения задач экспертом, ИЗ, ЭС, и эксперты должны оценить содерж. сторону постр. системы.

Ещё один пример построения ЭС: наступил страховой случай, есть лицо, есть компания, нужно оценить ущерб и возмещение. Молодой человек, застрахованный, впервые открывал бутылку шампанского, и попал себе в глаз. Наступил страховой случай. Есть прямые расходы --- несколько дней больницы, есть косвенные --- его хотели взять на телевидение, но теперь ему возможно придётся носить очки (ЭС увеличивает фактор неудобства на 2.5к $), в результате травмы у пациента может развиться глаукома (лечение глаукомы увеличивает стоимость на 30к)

1.Пример с распознаванием тигра.