Каузальный интеллект это: Давай поиграем в интересную игру. Или что такое каузальный интеллект?

Давай поиграем в интересную игру. Или что такое каузальный интеллект?

В субботу ходила на одно любопытное мероприятие. Хотите расскажу?

Вообще это психологический тренинг. Но не занудно-заумные лекции и поучения «как надо», а познание себя в форме игры. Перед началом краткий инструктаж, тебе рассказывают правила, порядок участников определяет игральный кубик, а дальше вы окунаетесь в ваше бессознательное. Если возникают непонятки или какие-либо вопросы, можно обратиться к игротехнику. Автор методики и игры кандидат психологических наук Жанна Завьялова. ICBT — это международная школа бизнес-тренеров.

Каузальный интеллект — это высшая психическая функция, которая формируется с течением жизни. Прочитала я и мало что поняла. Но что я теряю? В крайнем случае открою в себе что-то новое и интересно проведу время. Короче пошла.

В конце делились впечатлениями. Удивляет то, что из всех карточек игрокам попадаются именно те, которые точно описывают именно его ситуацию. Лично я ходила по одному и тому же кругу несколько раз, потом попросила помощи у игротехника. Мы сделали зарядку, посмотрели видео, которое подобрано для повторяющихся на моем пути клеток. И после того, как я осознала, о чем вообще речь, меня «пропустили» дальше. Я вырвалась из «замкнутого круга» и перешла на третий (оранжевый) уровень!

Можно упасть в кроличью нору, некоторые клетки наоборот дают квантовый скачок. Все как в жизни, очень похоже.

Здесь просто пояснение понравилось. Засняла, чтобы показать вам.

В начале игры каждый участник формулирует свой запрос. Кто-то про бизнес, кто-то касаемо личной жизни. Я вопрошала вообще про жизнь. И я получила ответ. Моя последняя клетка была 36 — равновесие. Это конец четвертого (зеленого) уровня — интуитивное постижение реальности. Можно было продолжать игру дальше, но мне это уже было не нужно. На память осталась картинка «Благотворительность». Потому что это была самая яркая клетка игры. В смысле по эмоциям. Времени даже хватило, чтобы ее раскрасить 🙂

Развивая каузальный интеллект, человек обретает силу и мудрость. Он умеет двигаться к цели и воплощать свои мечты. Игра дает инструменты, а дальше воля ваша. Вы знаете, какие модели сознания и поведения ведут к развитию, а какие мешают продвигаться вперед. Пользоваться этим знанием или нет — выбор ваш.

Спасибо сообществу mosblog за возможность с пользой провести время. Ссылки на страницу игры Facebook и Вконтакте.

Каузальный интеллект — Лайфмотив

Жизни людей отличаются по многим характеристикам одни успешны, другие счастливы, кто-то чем-то недоволен. Но никто бы не отказался научиться иметь хотя бы какие-то действенные рычаги влияния на собственную жизнь. Не будем бросать на ветер высокопарные фразы в стиле: стать властелином или повелителем своей судьбы, однако будьте уверенны научиться управлять своей судьбой возможно. Каузальный интеллект является инструментом с помощью которого можно влиять на свою судьбу.

Каузальный интеллект – это способность мыслить причинно-следственными связями, это высшая психическая функция, которую человек формирует на протяжении жизни, эта мощная способность интеллекта может влиять на судьбу.

Освоив каузальным интеллектом человек может творить, созидать и влиять на реальность. Каузальный интеллект влияет на наше физическое, эмоциональное, психологическое самочувствие от него зависит наша душевная гармония, успех, да что там даже долголетие. В основу концепции каузального интеллекта входит молитва датированная 13 веком Святого Франциска Осизкого: «Господи, дай мне мужество изменить, то что я могу изменить, разум и силы принять, то что я не могу изменить и мудрость отличить первое от второго». Необходимо в равной степени развивать все три опции, только так возможно достичь гармонии. В этом кроется глубинный смысл жизни, ведь бывают примеры, когда человек тратит массу жизненных сил и энергии на вещи заведомо не поддающиеся изменяю в независимости от его стараний усилия обречены на провал.

Структура каузального интеллекта состоит из влиятельности, толерантности и мудрости.

Влиятельность заключается в наборе знаний и навыков, которые помогут преобразовывать реальность. К этим навыкам стоит отнести: абстрактно-логичное мышление проявляющееся в ясном виденье ситуации; сила намеренья, иными словами концентрация внимания; делать все от тебя зависящее своевременно, а результат посвящать Вселенной или Богу. Толерантность проявляется в умении принимать, то что нельзя изменить, для этого нужно поработать над мыслями, чувствами, умением благодарить и прощать. Мудрость позволяет человеку вовремя понять, что возможно изменить, а что нет. Для развития мудрости важна интуиция; смелость пробовать менять ситуацию, а если она не поддается изменения уметь это принять, как должное; готовность увидеть правду, какой она есть; открытость мышления и сознания; безусловная любовь к себе.

Кандидат психологических наук Жанна Завьялова является автором методики каузального интеллекта, она самостоятельно в ходе исследований вывела это понятие в 2014 году, и в качестве практического материала для развития каузального интеллекта у людей разработала авторскую игру под названием «Каузальный интеллект». Игра длиться 3 часа, за это время игроки бросая кубик перемещаются по полю и открывают конверты, в которых описаны разные состояния. Автор методики считает, что в определенный момент жизни человек находится на одном из семи уровней осознанности, так вот состояния описанные в конвертах ранжируются по этим семи уровням. Каузальный интеллект и космическое сознание это самые высокие уровни. Вам нужно прочувствовать и примерить на себя описанное состояние.

Выходит каждый человек приложив усилия и разобравшись, как работает каузальный интеллект способен будет добиться в жизни любых высот, мечтать и воплощать свои мечты независимо от их размаха и масштаба. Вы познакомитесь с собой и поймете, что вам помогает, а что мешает жить успешной, гармоничной, полной всеми благами, осознанной жизнью.

Читайте также

Игра-Тренинг «Каузальный интеллект»

«Каузальный интеллект» — что это, о чем?

Люди приходят играть в «Каузальный интеллект» в разные моменты своей жизни, когда они стоят на очередном перекрестке и нужна помощь, чтобы сделать верный выбор. Иногда нам не хватает веры в себя и нужно получить подтверждение и поддержку уже принятым решениям. Или, когда мы “застряли” в каком-то аспекте своей жизни и нужен толчок, новая перспектива, осознание истинных препятствий. Когда нужно завершить старые отношения, чтобы войти в новые успешные. Или существенно улучшить наполнить глубиной существующие.

Игра дает возможность испробовать все вышеописанные ситуации, одновременно трансформируя и выводя на новый виток ваше сознание.

В игре вы получите яркий опыт и понимание:
— как ваши собственные привычные, ежедневные мысли и чувства влияют на вашу жизнь и судьбу
— какие ваши модели сознания и поведения ведут к успеху и развитию, а какие к разрушению и кризису
— как по-другому мыслить и чувствовать, чтобы создать ту жизнь, которую хочется прожить
— что именно вам помогает и что мешает по жизни и как от этого избавиться либо приобрести

Как это будет?

Мы с вами сыграем в игру, которая позволит погрузиться в 55 различных состояний сознания и понять, как наши мысли и чувства влияют на нашу судьбу. Как наш уровень осознанности может меняться, что нам помогает в нашей жизненной успешности, а что — мешает.

Игровое поле — весь наш зал. Вы кидаете кубик и попадаете в удивительный мир внутренних состояний, познаете движение судьбы. Вместо игровых фишек на игровом поле оказываетесь вы сами.

Результат игры — масса инсайтов, осознаний, открытий и переосмыслений собственной жизни. В ней очень много ресурсов. Начинаешь по-другому понимать про себя и других.

В процессе игры вы будете двигаться читая, осознавая, чувствуя все состояния, попавшиеся на вашем пути. Это может быть не всегда приятно, но вы прочитаете всю правду о себе. Вы будете делать внутренние открытия о себе и окружающем вас мире, ведь игра основана на причинно-следственной связи всех происходящих вокруг нас событий. Игра — это зеркало.

Это игра с самим собой и о себе, это опыт открытий, это время, проведенное с пользой для всей последующей жизни!

* Во время игры вы сможете задать любой вопрос игротехнику, и получить грамотное сопровождение.

Регистрируйся и приходи. Сделай шаг.

Центр Коучинга Инны Кравченко — Игра «Каузальный интеллект»

Предлагаем сыграть в Игру «Каузальный интеллект»

Игра – это маленькая жизнь. У нас есть Игровое поле – зал, в котором мы находимся.

Специальные игровые фигуры — Вы сами. И рука судьбы – это Ваша рука.

Кубик, брошенный ею, указывает, куда игроку двигаться.

Благодаря своему выбору. Вы соприкоснетесь с 55 разными состояниями сознания и сможете дать себе ответы на самые различные жизненные вопросы, найти новые решения и осознать то, что сегодня актуально именно для Вас, а также просто получить удовольствие от своей игры.

В чем проявляется сила игры?

1. В том, что из всего множества карточек. Игроку попадаются те, которые наиболее точно описывают именно его ситуацию – как причины попадания в кроличью нору, так и квантового скачка, позволяющего совершить прорыв.
2. В том, что участник оказывается на клетках, близких его жизненному сценарию и может извлечь уроки, не сходя с игрового поля. Но самое удивительное то, что пока человек не примет причины повторяющихся состояний, он в игре, как и в жизни, не сможет продвинуться дальше. Игра словно возвращает его к непройденному уроку.

Добро пожаловать в игру!

Каузальный интеллект: какие способности делают нас хозяином своей судьбы

Что входит в каузальный интеллект

1. Умение влиять, управлять, трансформировать изменяемые аспекты реальности
2. Умение принять в гармонии неизменяемые аспекты реальности
3. Умение отличать аспекты первого и второго порядков в каждый момент времени

Понятие «казуальный интеллект» предложила Жанна Завьялова, к.пс.н. По мнению автора, развитие трех основных составляющих такого интеллекта позволит человеку осознанно проживать каждый свой день, получать радость от происходящего и эффективно достигать намеченных целей.

Стоимость участия: 15000 тг.

Зарегистрируйтесь по телефону в Алматы: +7 701 5779494, +7 727 3285581

Какие выгоды от участия в Игре?

В игре Вы получите яркий опыт и понимание того:

1. – какие Ваши собственные мысли и чувства формируют Вашу судьбу
2. – как по-другому мыслить и чувствовать, чтобы создать ту жизнь, которую хочешь прожить
3. – какие модели сознания и поведения ведут к успеху и развитию, а какие – к разрушению и кризису
4. – что именно Вам помогает, и что мешает по жизни Б и как от этого избавиться либо приобрести

Мы гарантируем Вам:

1. Яркий опыт
2. Множество личных открытий
3. Доброжелательную поддерживающую атмосферу
4. Новые интересные знакомства
5. Позитивные изменения в вашей жизни

Как играть в Игру «Каузальный Интеллект»

Кто ведет Игру?

Инна Кравченко

Основатель «Инновационного Центра Развития Предпринимателей», автор программ «Жизненный баланс предпринимателя» и «Upgrade предприятия», коуч осознанных коммуникаций, практикующий психолог. 10 лет занимала пост исполнительного директора сети крупных строительных компаний Казахстана, 5 лет является предпринимателем и ведет собственный бизнес, в котором работает с предпринимателями СНГ в создании баланса бизнес-семья-личное.

И все это за 3 часа игры!

Зарегистрироваться на тренинг можно по телефонам Центра в Алматы: +7 701 5779494, +7 727 3285581 либо
Заполните форму по ссылке, и мы свяжемся с Вами в течение 1 дня

Игра «Каузальный интеллект» — 2event.com

Бизнес

Tech & IT

Спорт

Семья

Концерты

Ночная жизнь

Культура

Туризм

Развитие

Отдых

Выставки

Фестивали

Развлечения

Социальные мероприятия

Образование

Тренинги

Пресс-конференция

Наука

Медицина

Blockchain

Психология

Юриспруденция

Еда и напитки

Фотографии

Домашние животные

Мода

Искусство

Дети

Политика

Бухгалтерия

Религия

Для организаторов событий

B2B-Networking

18+

Фильмы

Музыка

Танцы

Экскурсии

Дизайн

Конференции

Форум

Семинары

Мастер-классы

Интенсивы

Вечеринки

Курсы

Квесты

Театры

Скидки

Туры

Филармония

Цирк

Бьюти Индустрия

FREE TICKETS FOR «LIKE» AND «SHARE»

Бизнес-Игра «Каузальный интеллект» | Академия финансовой свободы с Ольгой Демиург

Хотите сыграть в новую авторскую игру?
3 часа игры это

опыт открытий, осознаний, инсайтов и решений

корпоративный формат обучения- командообразование

самопознаниеи вдохновение,  расширений возможностей

время, проведенное с пользой для всей последующей жизни
 
 

Об игре

Игра – это маленькая жизнь. А Игра «Каузальный интеллект» — это небольшая дверь в мир саморазвития и понимания ситуаций и возможных решений.  Игра «Каузальный интеллект» – это чистое «зеркало» вашей жизни, в котором невероятным образом отражается ваша суть, ваша судьба, ваше бессознательное. И, заглянув в это «зеркало», вы сможете дать себе ответы на самые различные жизненные вопросы, осмыслить, какова причина событий в вашей жизни, найти новые решения и осознать то, что сегодня актуально именно для вас. Игра моделирует ваш внутренний мир, а главное, его влияние на внешний мир и бизнес.

В чем проявляется сила игры?

В том, что из всего множества карточек, Игроку попадаются те, которые наиболее точно описывают именно его ситуацию – как причины попадания в кроличью нору, так и квантового скачка, позволяющего совершить прорыв.
В том, что Участник оказывается на клетках, близких его жизненному сценарию и может извлечь уроки, не сходя с игрового поля.
Но самое удивительное то, что пока человек не примет причины повторяющихся состояний, он в игре, как и в жизни, не сможет продвинуться дальше. Игра словно возвращает его к не пройденному уроку.

Каковы выгоды от участия в Игре?
 
В игре вы получите яркий опыт и понимание того:
1 — как ваши собственные привычные мысли и чувства формируют ваши решения и их последствия

2 – как по-другому мыслить и чувствовать, чтобы создать тот бизнес и ту команду, которую хочешь развивать 

3 – какие модели сознания и поведения ведут к успеху и развитию, а какие – к разрушению и кризису

4 – что именно вам помогает и что мешает бизнесу и как от этого избавиться либо приобрести новые способы поведения

 
Мы гарантируем вам:
1 — яркий опыт и последовательность шанов для достижения результат

2 — множество личных открытий, и расширение 

3 — доброжелательную поддерживающую атмосферу

4 — варианты позитивных  изменений в вашей жизни.

А дальше?

А дальше воля ваша. Игра только лишь «зеркало», которое отражает уровень вашей осознанности, модели сознания и поведения, которые ведут к успеху и развитию и, наоборот, к разрушению и кризису, состояния, которые мешают или же помогают двигаться вперед. А менять что-то в вашей жизни или нет – выбор Ваш. 

Елена НОВОРУССОВА, сертифицированный игротехник трансформационной игры «Каузальный интеллект»: «Мечты сбываются!»

Как изменить жизнь к лучшему, найти себя, реализовать собственный потенциал, достичь поставленных целей и осуществить заветные желания? Ответить на эти вопросы поможет тренер личностного роста, сертифицированный игротехник трансформационной игры «Каузальный интеллект» и автор эксклюзивного ежедневника, исполняющего мечты, под названием «Будущее начинается сейчас» Елена НОВОРУССОВА.

Получив высшее экономическое образование, я поняла: цифры и бумажки – это не мое и решила осуществить свою детскую мечту – стать профессиональным свадебным стилистом.

На протяжении 15 лет занималась любимым делом: созданием свадебных и вечерних образов. Более 20 лет работаю в свадебной индустрии и более 8 лет являюсь руководителем свадебного салона «Невеста».

При этом, занимаясь любимым делом, я проходила обучения личностного роста, участвовала в тренингах, марафонах и семинарах. И убедилась, что я сама творец своей жизни!

Причем, по всем направлениям – как в профессиональной, так и в личной жизни.

С помощью определенных техник мне удалось реализовать свои мечты – у меня счастливая семья, дети, успешный бизнес, материальное благополучие.

Но однажды я поняла, что хочу нового этапа в своей жизни. И два года назад приняла очень непростое для себя решение – оставить работу стилиста и двигаться вперед.

К этому времени у меня накопился достаточный опыт в плане личностного роста и достижения целей. Я стала делиться им с другими людьми – проводить тренинги, онлайн-марафоны.

После обучения у Джо Витале (мирового эксперта в области притяжения желаемого) решила аккумулировать свои знания и наработки, превратив их в систему: так появился мой авторский ежедневник «Будущее начинается сейчас», помогающий изменить жизнь и исполнить мечты. Он подходит для тех, кто хочет все успевать: семья, работа/бизнес, отдых, хобби, саморазвитие. Для тех, кто ставит перед собой амбициозные цели и кому нужна система действий. На сегодня обладателями ежедневника, исполняющего мечты, стали уже более тысячи человек в России и других странах. Для тех, кто готов к переменам в жизни, но не знает, с чего начать, кому требуется поддержка и мотивация, этот ежедневник – то, что нужно!

Трансформационная игра «каузальный интеллект» в моей жизни появилась в нужный момент. Достигнув всего того, к чему я ранее стремилась, задала себе вопрос: что дальше? Изначально мне было непонятно о чем игра: о причинно-следственных связях, о ресурсных состояниях, уровнях осознанности… Но интуитивно чувствовала – мне это нужно. В декабре 2020 года я приехала в Москву, где поучаствовала в игре и прошла обучение у ее автора – Жанны Завьяловой, кандидата психологических наук, руководителя школы бизнес-тренеров IСBT*.

Игра – это своеобразный тренинг, помогающий разобраться в себе. Очень важно приходить на нее с конкретным запросом, который может быть из любой сферы нашей жизни – бизнес, карьера, духовное развитие, личная жизнь. В процессе игры человек выявляет причины, мешающие достичь желаемого, а также определяет ресурсные состояния, действуя из которых он сможет достичь своих целей, таким образом, после игры приходит четкое понимание дальнейших действий и решение своего запроса.

После игры я получила ответ на свой вопрос: куда мне двигаться дальше, чтобы максимально реализовать свой потенциал? При этом у меня появился четкий план дальнейших действий.

Игра подходит для разных людей, но всех их объединяет любовь к играм, стремление к саморазвитию, желание стать хозяином своей судьбы, интерес к своему внутреннему миру, стремление к повышению качества жизни.

Как записаться на игру «Каузальный интеллект» и приобрести ежедневник, исполняющий мечты?
Тел.8-905-1000-369
instagram.com/novorussova__elena
vk.com/novorussovaelena

Причина AI

(Иллюстрация Гордона Студера)

Большая часть широко используемого искусственного интеллекта (ИИ) предназначена для прогнозирования поведения людей. Он пытается предвидеть вашу следующую покупку, ваш следующий щелчок мышью, ваш следующий рабочий ход. Но такие методы могут вызвать проблемы, когда они используются для анализа данных для программ здравоохранения и развития. Если мы не знаем коренных причин поведения, мы можем легко принимать неверные решения и поддерживать неэффективную и предвзятую политику.

AI, например, позволил системам здравоохранения предсказать, у каких пациентов, вероятно, будут самые сложные медицинские потребности. В Соединенных Штатах программное обеспечение для прогнозирования рисков применяется примерно к 200 миллионам человек, чтобы предвидеть, какие пациенты получат дополнительную медицинскую помощь сейчас, исходя из того, сколько они, вероятно, будут стоить системе здравоохранения в будущем. Он использует прогнозирующее машинное обучение — класс самоадаптирующихся алгоритмов, которые повышают их точность по мере получения новых данных.Но, как показали исследования в области здравоохранения Зиад Обермейер и его коллеги в недавней статье в журнале Science , этот конкретный инструмент имел непредвиденные последствия: чернокожие пациенты, у которых было больше хронических заболеваний, чем белые, не были отмечены как нуждающиеся в дополнительной помощи.

Что пошло не так? Алгоритм использовал данные о страховых выплатах для прогнозирования будущих потребностей пациентов в отношении здоровья на основе их недавних медицинских расходов. Но разработчики алгоритма не учли, что расходы на здравоохранение для чернокожих американцев обычно ниже, чем для белых американцев с аналогичными состояниями здоровья, по причинам, не связанным с их болезнью, например, препятствиями для доступа к медицинской помощи, неадекватной медицинской помощи. , или отсутствие страховки.Использование затрат на здравоохранение в качестве косвенного показателя болезни привело к тому, что алгоритм прогнозирования дал рекомендации, которые были точными для белых пациентов (более низкие расходы на здравоохранение были следствием меньшего количества состояний здоровья), но сохраняли расовые предубеждения в уходе за чернокожими пациентами. Исследователи уведомили производителя, который провел тесты с использованием собственных данных, подтвердил проблему и сотрудничал с исследователями, чтобы устранить предвзятость алгоритма.

Эта история иллюстрирует одну из опасностей определенных типов ИИ.Независимо от того, насколько изощренные прогностические алгоритмы и их пользователи могут попасть в ловушку приравнивания корреляции к причинно-следственной связи, другими словами, думая, что, поскольку событие X предшествует событию Y, X должно быть причиной Y. Прогностическая модель полезна для установления корреляция между событием и результатом. В нем говорится: «Когда мы наблюдаем X, мы можем предсказать, что произойдет Y». Но это не то же самое, что показать, что Y встречается как из-за X. В случае алгоритма здравоохранения более высокие показатели заболеваемости (X) правильно коррелировали с более высокими затратами на здравоохранение (Y) для белых пациентов.X вызвал Y, и поэтому было правильно использовать затраты на здравоохранение в качестве предиктора будущих заболеваний и потребностей в медицинской помощи. Но для чернокожих пациентов более высокий уровень заболеваемости, как правило, не ведет к более высоким затратам, и алгоритм не может точно предсказать их будущие потребности в медицинском обслуживании. Была корреляция, но не причинная связь.

Это важно, поскольку мир все чаще обращается к искусственному интеллекту для решения насущных проблем в области здравоохранения и развития. Если полагаться исключительно на прогностические модели ИИ в таких разнообразных областях, как здравоохранение, правосудие и сельское хозяйство, если корреляции ошибочно принимают за причинно-следственную связь, могут иметь место разрушительные последствия.Поэтому крайне важно, чтобы лица, принимающие решения, также рассмотрели другой подход ИИ — причинно-следственный ИИ , который может помочь определить точные причинно-следственные связи. Выявление первопричин результатов — не единственное преимущество причинного ИИ; он также позволяет моделировать вмешательства, которые могут изменить эти результаты, с помощью причинно-следственных алгоритмов ИИ, чтобы задавать вопросы «что, если». Например, если конкретная программа обучения реализуется для повышения компетентности учителя, насколько мы можем ожидать улучшения результатов учащихся на тестах по математике? Моделирование сценариев для оценки и сравнения потенциального воздействия вмешательства (или группы вмешательств) на результат позволяет избежать затрат времени и средств на длительные полевые испытания.

Безусловно, предсказательные алгоритмы ИИ играют важную роль, если они применяются и используются правильно. Хорошим примером является точное земледелие, в котором используется интеллектуальный ИИ для обработки данных со спутниковых снимков и датчиков, чтобы помочь фермерам прогнозировать урожайность, обнаруживать болезни и сорняки, а также распознавать различные виды растений. Но способность предсказать результат — это не то же самое, что понять, что на самом деле его вызывает. Предсказать, что урожайность фермера в этом году будет ниже, — это одно; понимание почему дает возможность предпринять шаги для увеличения урожая.

Еще одна проблема, связанная с использованием только прогнозных моделей, — это фундаментальный недостаток знаний о том, почему они вообще делают определенные прогнозы. Это проблема глубокого обучения — такого рода прогнозирующего ИИ, который работает в точном земледелии. Глубокое обучение было вдохновлено тем, как клетки человеческого мозга организованы (в «слоях») и как они взаимодействуют друг с другом (принимая входные сигналы от ячеек одного слоя, преобразовывая сигналы и выводя преобразованные сигналы в клетки другого слоя).В отличие от широко используемых методов прогнозирования результатов, таких как регрессия, традиционный статистический метод, который отображает отношения между переменными с прогнозируемым результатом с помощью единственной наилучшей математической формулы, глубокое обучение может сопоставлять переменные с результатами с гораздо более сложными отношениями между ними. Комбинируя несколько уровней между входными переменными и результатами, алгоритмы глубокого обучения могут изучать отношения ввода-вывода, намного более сложные, чем одна математическая формула, и использовать их для прогнозирования результатов.Однако связи и посредники между переменными являются «черными ящиками», что означает, что пользователи — и даже создатели — алгоритмов не могут легко различить, как переменные соотносятся с результатом и друг с другом. Это означает, что часто невозможно узнать, какие входные функции модели глубокого обучения использовали для своих прогнозов.

Эта непрозрачность неприемлема при рассмотрении траектории жизни людей, например, в системе уголовного правосудия США. В 2016 году 2,3 миллиона взрослых американцев, или каждый 111, находились в тюрьмах, содержание которых дорого обходилось федеральному правительству и правительству штатов.Суды по всей территории Соединенных Штатов ввели «баллы рецидивизма» в попытке снизить затраты на содержание под стражей за счет сокращения числа заключенных без увеличения преступности. Оценка рецидивизма — это единое число, полученное с помощью алгоритма прогнозирования, который оценивает вероятность того, что лицо, осужденное за преступление, совершит повторное преступление. Теоретически оценка позволяет судье сосредоточить внимание на заключении под стражу тех, кто с большей вероятностью совершит дополнительные преступления, и даже должен помочь устранить потенциальную предвзятость при вынесении приговора.Но оценки рецидивизма по своей сути ошибочны, потому что они основаны на инструментах оценки риска, которые выявляют статистические корреляции, а не причинно-следственные связи. Например, низкий доход связан с преступностью, но это не означает, что он вызывает преступление. Тем не менее, людям из малообеспеченных семей автоматически может быть присвоен высокий балл рецидивизма, и в результате они с большей вероятностью будут приговорены к тюремному заключению. Исправление системы уголовного правосудия требует сосредоточения внимания на понимании причин преступности, а не только ее коррелятов.

Более пристальный взгляд на причинный ИИ покажет, как он может открыть черный ящик, в котором работают чисто прогнозные модели ИИ. Причинный ИИ может выйти за рамки корреляции, чтобы подчеркнуть точные отношения между причинами и следствиями.

Рандомизированные контролируемые испытания

Важность тестирования причинно-следственной связи не нова ни для секторов здравоохранения, ни для секторов развития. Самый простой способ сделать это — провести вмешательство среди людей, случайным образом отнесенных к одной группе населения, известной как группа лечения, и не проводить никакого вмешательства в идентичной группе, известной как контрольная группа.Сравнивая результаты двух групп, можно выделить эффект вмешательства. В клинических исследованиях это известно как рандомизированное контролируемое исследование , а в маркетинговых исследованиях оно называется A / B-тестирование .

Экономисты по развитию Майкл Кремер, Абхиджит Банерджи и Эстер Дюфло были удостоены Нобелевской премии по экономике в 2019 году за руководство применением рандомизированных контролируемых испытаний для выявления основных причин проблем развития и разработки решений.Такие испытания опровергли некоторые общепринятые представления о причинно-следственной связи. Например, многочисленные обсервационные исследования выявили связь между дефицитом витамина D и повышенным риском диабета, гипертонии, сердечно-сосудистых заболеваний и рака. Но рандомизированные контролируемые испытания показали, что добавки витамина D не снижают риски этих состояний — они не обнаружили причинно-следственной связи между добавками витамина D и результатами для здоровья.

Рандомизированные контролируемые испытания, однако, имеют ограничения.Требуются большие группы людей, чтобы гарантировать, что результаты не будут искажены или затронуты случайными, резко отклоняющимися характеристиками, такими как возраст, пол, состояние здоровья или уровень образования. Это, как правило, делает такие испытания чрезвычайно дорогими (в миллионы долларов) и длительными (на их проведение могут уйти годы). Более того, рандомизированные контролируемые испытания могут проверить эффект только одного или максимум нескольких комплексных вмешательств за раз, несмотря на то, что медицинские и социальные результаты являются сложными и имеют множество основных факторов.Наконец, они могут предсказать только то, повлияет ли вмешательство на типичного члена исследуемой группы, но не на конкретного человека.

Вот здесь-то и появляется причинный ИИ. Он предлагает новые возможности для более быстрого и эффективного тестирования причинно-следственных связей у отдельных лиц и групп населения, а также возможность разгадывать лежащую в основе сложность. Это позволяет исследователям и разработчикам программ моделировать вмешательство и делать выводы о причинно-следственных связях, полагаясь на уже имеющиеся данные.

Два подхода к обнаружению причинно-следственной связи

Существует два подхода к причинному ИИ, основанные на давно известных принципах: структура потенциальных результатов и модели графов причинно-следственных связей. Оба подхода позволяют тестировать эффекты потенциального вмешательства с использованием реальных данных. То, что делает их ИИ, — это мощные базовые алгоритмы, используемые для выявления причинно-следственных связей в больших наборах данных. Но они различаются по количеству потенциальных причин, которые они могут проверить.

Чтобы понять эти два метода и то, как они работают, а также их различия, рассмотрим следующий гипотетический сценарий: исследователи хотели выяснить, убедила ли антикурительная рекламная кампания людей бросить курить, но контрольной группы не было, потому что реклама была выпущена на национальном уровне.У них был только набор данных, показывающих, видели ли люди рекламу, бросили ли они курить, а также информацию об их демографических характеристиках и другом поведении в отношении здоровья. Даже без контрольной группы причинный ИИ предоставляет способы сделать вывод о причинно-следственной связи.

Схема потенциальных результатов, предложенная статистиками Полом Розенбаумом и Дональдом Рубином в 1983 году, сравнивает исход (отказ от курения) человека, который подвергся воздействию причины интереса (реклама против курения), с предполагаемым «потенциальным результатом» один и тот же человек, если бы он / она не подвергались воздействию.Проблема, конечно же, в том, что не существует данных о результатах отсутствия воздействия на человека, который фактически подвергался воздействию кампании. Таким образом, для каждого человека, который был показан в рекламе, алгоритмы AI вместо этого находят в наборе данных человека, который не был показан в рекламе, но который идентичен в других важных отношениях (таких как возраст, раса и образование). Другими словами, искусственная контрольная группа реконструируется, чтобы имитировать рандомизированное контролируемое испытание. Ограничение заключается в том, что, хотя она и способна решить проблему отсутствия контрольной группы, структура потенциальных результатов может проверять эффект только одного заранее определенного вмешательства за раз — в этом случае привела ли рекламная кампания к решению этого человека уйти курить?

Графические модели причинно-следственных связей, напротив, могут делать больше, чем просто тестировать одну пару переменных на предмет их причинно-следственной связи.Их можно использовать в качестве исследовательских инструментов, чтобы отобразить все различные причинные пути к интересующему результату и показать, как разные переменные связаны друг с другом. Применение причинно-следственной диаграммы к нашей кампании по борьбе с курением может показать, что просмотр рекламы в аптеке побудил некоторых людей сразу бросить курить, а других купить никотиновые пластыри, что, в свою очередь, побудило их бросить курить.

Существует несколько моделей причинно-следственных связей. Одним из широко используемых методов является модель структурных уравнений, в которой исследователи определяют переменные, которые могут взаимодействовать, и то, как они могут это делать, а затем модель анализирует данные, чтобы выявить, действительно ли они взаимодействуют.Хотя эта модель может тестировать множество таких взаимосвязей в данных, вся сеть взаимодействия между различными переменными должна быть определена с использованием существующих знаний. Ограничение этой модели состоит в том, что она проверяет только связи между предполагаемыми переменными: если переменные, которые действительно вызывают эффект, не включены в указанные, они не будут сравниваться с другими вариантами.

Другой метод каузального графа — это каузальная байесовская сеть, термин, придуманный в 1980-х годах компьютерным ученым и философом Джудеей Перл и названный в честь английского статистика 18-го века Томаса Байеса.Этот метод оценивает отношения между всеми переменными в наборе данных. В результате получается интуитивно понятная визуальная карта, показывающая, какие переменные влияют друг на друга, а также степень их влияния. Преимущество этого подхода состоит в том, что, в отличие от модели структурного уравнения, эти взаимодействия не нужно указывать перед тестом, что делает его истинным методом обнаружения.

Хотя причинно-следственные байесовские сети требуют большого количества данных, чтобы охватить вселенную возможных переменных, потенциал этого подхода является захватывающим по нескольким причинам.Это позволяет обнаруживать на основе данных одновременно несколько причинно-следственных связей. В примере с рекламной кампанией, направленной против курения, причинно-следственная байесовская сеть может показать, как реклама и доступность различных средств для отказа от курения влияет на поведение людей, или может показать, какую роль сыграли личные устремления. Не менее важно, в отличие от черного ящика прогнозирующего ИИ, в причинно-следственном подходе ИИ отношения между переменными (воздействие рекламы, наличие никотиновых пластырей) и результатом (отказ от курения) становятся видимыми для исследователей, разработчиков программ и лиц, определяющих политику. .

Причинно-следственные графические модели также позволяют моделировать множество возможных вмешательств одновременно. Например, что, если разные объявления против курения нацелены на разные возрастные группы или объединят общую кампанию с разъяснительной работой со стороны равных наставников? Они также позволяют использовать экспертные знания, чтобы противостоять возможным ограничениям подхода, основанного исключительно на данных. Эксперты могут, например, помочь определить, какие переменные должны входить в модель, они могут поставить в модель условия, чтобы повысить ее точность, и они могут помочь понять результаты, которые противоречат здравому смыслу.

Эффективное приложение

Область причинного ИИ быстро развивается. По мере того, как его потенциал становится все более очевидным, исследователи применяют его в таких разнообразных областях, как изменение климата и здоровье, демонстрируя его широкий потенциал.

Изменение климата | Причинно-следственные методы искусственного интеллекта были применены к изменению климата, чтобы понять, являются ли люди одной из его причин, и как именно, и что движет убеждениями людей по этому поводу. Чтобы исследовать этот вопрос, британские ученые использовали причинно-следственный метод ИИ, названный атрибуция контрфактических событий в структуре потенциальных результатов, чтобы определить, были ли произведенные человеком выбросы парниковых газов основной причиной смертельной волны тепла в Европе в 2003 году, которая, по некоторым оценкам, была причиной более 70 000 смертей.Используя исторические данные, данные о Солнце, информацию об извержениях вулканов и атмосферные данные о парниковых газах, аэрозолях и озоне, исследователи смоделировали летние температуры по всей Европе в 2003 году с воздействием человека и без него. Они обнаружили, что волна тепла могла возникнуть с гораздо большей вероятностью, когда модель включала такие виды деятельности, как авиаперелеты или производство электроэнергии, чем когда эти эффекты были исключены. Опубликованное в 2004 году, это было одно из первых исследований, связывающих экстремальное погодное явление с деятельностью человека, и оно предоставило мощный аргумент в пользу сокращения выбросов парниковых газов, образующихся в результате такой деятельности.Исследование цитировалось Межправительственной группой экспертов ООН по изменению климата.

Причинный ИИ также выявил факторы, которые заставляют людей становиться более поляризованными в своих убеждениях об изменении климата. Исследователи опросили участников из США и Австралии и использовали байесовские сети, чтобы смоделировать, как разные люди реагируют на различные сообщения об изменении климата. Они обнаружили, что при представлении согласованной информации об изменении климата в онлайн-опросе американцы, которые активно не доверяли ученым-климатологам, ответили обновлением своих убеждений в направлении , противоположном направлению предоставленной им информации.Эта причинно-следственная структура предоставила новый способ оценки взаимосвязанных отношений между мировоззрением, научными убеждениями и доверием к ученым. Подобные идеи важны для формирования общественного мнения о необходимости действий по борьбе с изменением климата. Такие результаты обеспечивают основу для разработки интервенционных сообщений, которые учитывают, как участники могут реагировать на информацию, исходя из своих убеждений и прошлого.

Диарея у детей | Причинный ИИ предлагает возможности для решения широко распространенных и сложных проблем со здоровьем, когда другие подходы не увенчались успехом.Детский понос — один из примеров. Это заболевание является второй по значимости причиной смерти детей в возрасте до 5 лет в мире. Многие факторы связаны с диареей, но чрезвычайно сложно разобраться в причинных путях, как биологических, так и структурных, диарейных заболеваний. Это затрудняет разработку эффективных вмешательств.

В исследовании, проведенном в Пакистане, использовались данные национального опроса более 110 000 человек из более чем 15 000 домашних хозяйств. Обследование включало домашние, социальные, экологические и экономические переменные.При использовании многовариантной регрессии, традиционного статистического метода, исследователи обнаружили 12 домашних переменных, которые были в значительной степени связаны с диареей. Однако их было нелегко интерпретировать: например, одной переменной было количество комнат в доме. Напротив, анализ того же набора данных с помощью причинно-следственной байесовской сети позволил получить карту сети, показывающую три переменных, которые непосредственно влияют на диарейные заболевания у детей: использование туалетов с сухими ямами, а не туалетов, подключенных к канализации; зависимость от источника воды, отличного от водопровода, реки или ручья; и отсутствие формального сбора мусора.Если эти идеи будут включены в общественную или национальную политику, они могут привести к эффективным вмешательствам, направленным на снижение детской диарейной болезни.

Показатели материнской и новорожденной смертности | Во многих странах с низкими доходами уровень смертности матерей и их новорожденных остается неизменно высоким. Роды женщин в медицинских учреждениях имеют решающее значение для выживания и благополучия как матери, так и ребенка. Благодаря национальной системе стимулирования, согласно которой семьям выплачивается плата за рождение детей в учреждениях (300 индийских рупий [около 4 долларов] за роды в больнице и еще 300 индийских рупий, если мать также использовала дородовой уход), индийское правительство предоставило смогли быстро повысить скорость институциональной доставки.Однако во многих штатах Индии эта тенденция стабилизировалась и составила около 80 процентов.

В Surgo Foundation мы пытались понять, почему женщины не выбирают институциональные роды и какие дополнительные вмешательства потребовались, чтобы заставить их сделать это. В нашей работе использовались различные методы, в том числе причинный ИИ, чтобы определить, почему некоторые семьи все же решают рожать дома. В штате Уттар-Прадеш с населением более 230 миллионов человек мы провели несколько крупномасштабных количественных исследований для измерения большого числа потенциальных факторов институциональной реализации.Затем мы использовали причинно-следственную байесовскую сеть, чтобы обнаружить переменные, влияющие на это поведение, и определить, какие из них являются наиболее многообещающими целями для вмешательства в области общественного здравоохранения.

Широкий набор переменных коррелировал с родами в медицинском учреждении, но причинный ИИ выявил прямые причины. К нашему удивлению и вопреки распространенному мнению, близость матери к медицинскому учреждению не входила в их число, а имела место доступ к транспорту. Это говорит о том, что правительству следует решать транспортные проблемы, а не строить больше медицинских учреждений ближе к семьям.Мы также были удивлены, обнаружив, что убеждение в том, что роды в больнице безопаснее, чем домашние, гораздо важнее, чем убеждения в отношении чистоты в больницах, компетентности персонала и предвзятости персонала. Наличие плана доставки также увеличивало вероятность институциональной реализации; так же поступала и осведомленность матери о финансовых стимулах, подтверждая влияние государственной системы стимулирования. Результаты этого исследования в настоящее время используются для моделирования гипотетических сценариев и пилотного вмешательства, в котором медицинские работники, работающие на переднем крае, помогают матерям в Уттар-Прадеше заблаговременно разработать подробные планы их родов, например, где они будут рожать, как они доберутся до учреждения. , и как они будут оплачивать дополнительные расходы.

Семь рекомендаций по масштабированию

AI внедряется предприятиями и правительствами, стремящимися улучшить процессы, решить проблемы и повысить эффективность. Не менее важно, чтобы люди, занимающиеся вопросами здоровья и развития, изучали и расширяли использование причинного ИИ. Он предлагает путь вперед с явными преимуществами по сравнению с чисто интеллектуальным ИИ. Прогностические модели могут предоставить мощную и часто точную информацию, например, определить, может ли результат показания маммограммы быть случаем рака груди.Но причинный ИИ может помочь, выявляя скрытую сеть причин поведения или события и предоставляя критическую информацию, которую не могут предоставить прогнозные модели, что может привести к более эффективным вмешательствам, которые приводят к положительным результатам. Более того, причинный ИИ не работает в рамках черного ящика, позволяя исследователям проверять логику модели и снижая риск предвзятости, подобной описанной ранее.

Причинный ИИ идентифицирует лежащую в основе сеть причин поведения или события и предоставляет критическую информацию, которую прогнозные модели не могут предоставить.

Три сходящихся фактора указывают на то, что время причинного ИИ пришло. Во-первых, достижения в области искусственного интеллекта подчеркивают множество применений причинных подходов, и по мере того, как модели уточняются, масштабируются и применяются к новым ситуациям, мы узнаем больше об их ценности и ограничениях. Во-вторых, становятся все более доступными крупномасштабные наборы данных. Подобно телевизору сверхвысокой четкости 4K, у которого на квадратный дюйм экрана больше пикселей, чем у старых телевизоров стандартной четкости, большее количество данных делает прогнозы более четкими и точными и повышает уверенность в выводах, полученных из причинно-следственных сетей.Наконец, секторы здравоохранения и развития уделяют все большее внимание политике точности, то есть разработке мероприятий, дающих наилучшие результаты, с целью развертывания ограниченных ресурсов там, где они могут иметь наибольший эффект. Причинный ИИ идеально подходит для решения этой задачи.

Путь к успешному внедрению этих подходов потребует некоторой работы. Ниже приведены семь рекомендаций, которые могут облегчить внедрение и использование причинного ИИ.

Более эффективное использование данных и повышение их качества. За последнее десятилетие было вложено несколько крупномасштабных усилий по сбору данных. Тем не менее, эти наборы данных часто используются недостаточно, и их можно использовать в дальнейшем, чтобы получить больше информации. Хотя мы наблюдаем рост объемов данных, остаются другие проблемы. Наборы данных часто фрагментированы и различаются по качеству. Связывание различных наборов данных также является проблемой — например, когда информация в одном наборе данных записывается на индивидуальном уровне, а в другом — на региональном или национальном уровне. Разработка общих показателей, которые будут использоваться во всех усилиях по сбору данных в стране, поможет извлечь максимальную пользу из наборов данных, когда они будут связаны.

Соберите более полные данные. Успешное применение причинного ИИ требует понимания всех переменных, которые могут определять поведение — структурных факторов, таких как политика и законы, а также индивидуальных убеждений, мотиваций, предубеждений и влиятельных лиц. Если сбор данных осуществляется на основе слишком большого количества предварительных предположений о том, что важно собирать, причинные переменные, которые действительно лежат в основе поведения или событий, могут быть упущены и, следовательно, привести к установлению неправильных причинно-следственных связей.

Создавайте масштабируемые высокопроизводительные инструменты с открытым исходным кодом для применения причинных алгоритмов ИИ. Платформы с запатентованными алгоритмами являются дорогостоящими, что часто делает их недоступными для секторов здравоохранения и развития. Открытый исходный код делает программное обеспечение бесплатным, более доступным и более качественным в долгосрочной перспективе, поскольку больше людей могут изучать исходные коды и оставлять отзывы. Некоторые алгоритмы с открытым исходным кодом (например, bnlearn) доступны, но их точность и скорость требуют улучшения.Практикам, не являющимся экспертами в области причинного ИИ, необходимо знать, какие шаги им следует предпринять, чтобы применить этот подход в своей области. Surgo Foundation разрабатывает инструменты, позволяющие снизить барьеры для входа и помочь организациям, плохо знакомым с причинным ИИ, избежать ошибок процесса. Одним из примеров является инструмент с открытым исходным кодом, который оценивает, подходит ли данный набор данных для применения в байесовских сетях и какие алгоритмы лучше всего подходят для его использования. Surgo также разрабатывает руководство по рабочему процессу, чтобы помочь причинному ИИ перейти от академических исследований к практическому применению в полевых условиях.

Смешайте искусственный интеллект с человеческим интеллектом. Подход, основанный исключительно на данных, не может решить проблемы разработки в одиночку. На протяжении всего процесса необходимо включать экспертные знания, чтобы исследователи и разработчики программ правильно интерпретировали причинно-следственные связи. Эксперты могут повысить эффективность причинного ИИ, добавив ограничения, отражающие практические знания о том, как системы работают на местах, и определив, отсутствуют ли известные смешивающие переменные в данных.И по мере роста использования причинного ИИ специалисты по этике и эксперты по вопросам политики будут играть важную роль, чтобы гарантировать, что подход избегает ошибок предвзятости или неточности, которые иногда препятствуют применению моделей прогнозирующего ИИ.

Улучшить способы оценки производительности алгоритма. Ученые-компьютерщики исследуют способы повышения точности и общей надежности причинно-следственных алгоритмов ИИ. Типичный способ оценки точности причинно-следственных моделей — это сравнение результатов с известными причинно-следственными связями.Но что делать исследователю, если нет известных причинно-следственных связей для проверки модели? (В конце концов, обнаружение этих взаимосвязей часто является целью в первую очередь выполнения причинного ИИ.) Кроме того, что произойдет, если результаты причинной модели ИИ вступят в противоречие с существующими экспертными знаниями? Одним из решений может быть создание искусственных наборов данных с характеристиками, аналогичными реальным набору данных, но с заранее определенными причинно-следственными связями между переменными. Оценка того, насколько хорошо причинно-следственная модель ИИ работает с искусственным набором данных, может помочь исследователям сделать вывод об ожидаемой производительности на реальном наборе данных с аналогичными характеристиками.

Продемонстрируйте ценность причинного ИИ в секторе разработки. Приведенные выше примеры убедительны, но их немного. Более широкая осведомленность о проделанной работе поможет стимулировать использование причинных подходов. Surgo Foundation использует причинный ИИ, чтобы понять, как оптимизировать работу медицинских работников, работающих на переднем крае, как решить, какие вмешательства следует расширить, чтобы улучшить обучение учащихся, и как улучшить использование современных методов планирования семьи.По мере продвижения фонда мы стремимся протестировать применение причинного ИИ в таких областях, как сельское хозяйство и изменение климата.

Повысить осведомленность и знания основных заинтересованных сторон. Причинный ИИ — все еще очень новая концепция для тех, кто не работает в этой области. Требуется работа, чтобы объяснить его потенциал лицам, определяющим политику, и спонсорам; менеджеры программ; а также эксперты по мониторингу и оценке во многих секторах, где может применяться причинный ИИ, чтобы они понимали эти подходы, по крайней мере, концептуально.

Следующий логический шаг

Чтобы понять мир, люди принимают во внимание и анализируют повторяющиеся закономерности. Мы прошли долгий путь от создания мифов для объяснения погоды до использования строгого сбора данных и математического моделирования для прогнозирования следующего дождя или пути урагана. Но мы постоянно сталкиваемся с ограничениями того, что мы можем наблюдать, и доступных методов анализа наших данных.

Причинный ИИ — это следующий логический шаг, который стал возможным благодаря недавним технологическим преобразованиям и растущему распространению данных.Его преимущество перед некоторыми другими дисциплинами в социальных науках — и даже перед интеллектуальным ИИ — заключается в том, что он может помочь определить точные причинные факторы, которые напрямую приводят к определенному поведению или результатам, и может эффективно протестировать различные подходы к изменению этого поведения или результатов. Это преимущество позволяет исследователям и практикам сосредоточиться на оптимальном сочетании вмешательств для решения некоторых из наиболее серьезных проблем сегодняшнего дня, от изменения климата до здравоохранения. Более точные причинно-следственные выводы помогут программам делать больше с меньшими ресурсами и тратить на это меньше времени.И, интегрируя причинный ИИ с человеческим опытом, программы могут избежать ошибок, которые возникают, когда люди — или машины или программное обеспечение, которое они создают, — игнорируют важный контекст или попадают в ловушку ошибочной корреляции за причинную связь.

В конечном счете, знание «почему» сложных проблем помогает нам понять, как на самом деле устроен мир, и, в свою очередь, определить правильные действия для достижения желаемых результатов. Мы еще можем обнаружить, что унция причинного ИИ стоит фунта предсказания.

Причинно-следственный интеллект: ключ к повышению эффективности ИИ в бизнесе

Решения для искусственного интеллекта (AI) и машинного обучения (ML) получают серьезную поддержку в компаниях. В последние годы компании вкладывают все больше денег в решения «черного ящика» в надежде разработать передовые алгоритмы, которые помогут им работать лучше, умнее и эффективнее.

Рассмотрим, например, недавний ажиотаж вокруг AutoML — решений для автоматизированного машинного обучения.которые просты в использовании, с большей точностью, чем традиционные модели машинного обучения, и более быстрым развертыванием в реальном времени. Поскольку в апреле 2016 года Facebook превозносил AutoML как основу своих решений AI / ML, Google, Salesforce, Amazon и Microsoft развернули свои собственные собственные решения AutoML.

Главное преимущество таких решений, как AutoML, очевидно: они позволяют пользователям быстро развертывать готовые к работе недорогие решения AI / ML. Однако, как и другие системы искусственного интеллекта в виде «черных ящиков», их использование для автоматизированного принятия решений также имеет существенные недостатки.

Эти системы обычно моделируют результаты с помощью машинного обучения — если только они не обрабатываются большими данными. Они отображают функции пользователя в определенные сегменты (например, состояние здоровья или финансовое состояние) без объяснения причин.

Это очень проблематично не только из-за отсутствия прозрачности, но и из-за того, что запуск такого автоматического отображения пользователей рискует подпитывать алгоритм принятия решений возможными предубеждениями, унаследованными от человеческих предрассудков и артефактов сбора, скрытых в обучающих данных.Это может привести к несправедливым или неправильным решениям.

Чтобы избежать этой проблемы, лица, принимающие бизнес-решения, должны вместо этого снабжать эти системы «back-box» более надежными наборами данных, которые они могут уточнять, развивая свой причинно-следственный интеллект, понимание причинно-следственных связей между тем, что их клиенты делать и как это влияет на их бизнес.

Как работает причинный интеллект

Причинность — это не новое понятие. Традиционно причинно-следственная связь выявляется с помощью A / B-тестов и анализа сходства между тестовой и контрольной группами.Однако проблема с этим подходом состоит в том, что чем больше количество или сложность вмешательств, тем сложнее выбрать группы похожих и имитирующих контроль.

Причинно-графические модели, с другой стороны (вероятностные графические модели, которые кодируют предположения о процессе генерации данных), решают эту проблему. Одна из самых популярных причинно-следственных графических моделей — байесовская сеть. Это похоже на паутину или сеть связей, которые показывают влияние каждой переменной на другие.

(вверху: пример байесовской сети, показывающий, как различные факторы влияют на продажи)

Чтобы объяснить, как это работает, рассмотрим ситуацию, когда вы консолидируете свою маркетинговую рентабельность инвестиций. Для нескольких брендов FMCG, учитывая, что большая часть продаж происходит офлайн, в розничном магазине, байесовская сеть может определять внутренние и внутренние связи между внутренними цифровыми и офлайновыми маркетинговыми усилиями, ценой, конкуренцией, внешними факторами, такими как товарные рынки, и офлайн-продажами. .Затем можно извлечь три типа инсайтов:

1. Описательный (например, Amazon Reviews несут прямую ответственность за дополнительный доход в размере 10 000 евро).

2. Прогнозирующий (например, инвестирование на 10% больше в рекламу с оплатой за тысячу показов может принести дополнительный доход на 3000 евро)

3. Обязательный (например, при том же бюджете Facebook может получить на 30% больше инвестиций, а вложения в электронную почту могут быть уменьшены на 5%).

Выявление причинно-следственных связей

Важно отметить, что случайный интеллект также помогает лицам, принимающим решения, понять, «почему» в их данных.

Причинно-следственные связи обнаружить труднее, чем вы думаете. Многие аналитики предполагают, что причинно-следственная связь — это когда два фактора, по-видимому, со временем влияют друг на друга; они оба могут увеличиваться и уменьшаться аналогичным образом. Однако это неправильное название. Такие тенденции могут быть чисто случайными, и корреляция не подразумевает причинно-следственной связи. Это то, что статистики называют «ложной корреляцией» — она ​​не обязательно существует.

Легко попасть в ловушку выявления «ложных корреляций» — и многие лица, принимающие решения, в конечном итоге принимают решения, основанные на таких неточных предположениях. Такие оплошности настолько распространены, что Financial Times называет ложные корреляции «криптонитом» стремительного развития искусственного интеллекта на Уолл-стрит.

Однако модели причинно-следственного интеллекта

позволяют пользователям более точно определять отношения. Понимая, как одна переменная влияет на другую, пользователи могут получить более четкое представление о том, как и почему изменились определенные цифры или результаты, и спрогнозировать (более точно), сохранится ли корреляция или останется неизменной.

Бизнес-приложения причинно-следственной связи

Потребность в причинно-следственном интеллекте зависит от отрасли, степени зрелости внедрения ИИ / машинного обучения и объема вмешательства человека, генерирующего и проверяющего прогнозы. Тем не менее, этот процесс может помочь компаниям в каждой вертикали развить свое понимание трех ключевых областей:

• Маркетинговый возврат инвестиций (MROI)

Традиционно маркетологи уточняли оптимальный набор средств массовой информации или маркетинговые бюджеты с помощью моделей маркетингового микса (MMM).Это, как правило, классические макроэкономические модели, возможно, подчеркивающие линейную корреляцию между инвестициями в медиаканалы.

Это имело смысл, когда маркетологи считали единственную воронку абсолютной истиной — линейный путь покупателя от осведомленности к рассмотрению и покупке. Но, как объяснил Аллан Тайгесен из Google, воронка больше не существует благодаря «моментам, связанным с намерениями». Никакие два пути клиента не похожи друг на друга, и точки соприкосновения не могут быть объединены в виде сети или паутины.Причинно-следственные модели могут помочь предприятиям оценить влияние этих взаимосвязанных точек соприкосновения на продажи масштабируемым и надежным образом.

• Развитие творческих ресурсов

Многие компании сейчас сосредоточены на создании сегментированной аудитории для активации маркетинга. Но как насчет того креатива, который они им служат? Достаточно ли он визуально привлекателен, чтобы привлечь их внимание?

В 2019 году компания

IPG Media Brands опубликовала отчет, в котором тестировалось влияние креативов на эффективность рекламы.Исследование показало, что размер, форма, основные или второстепенные доминирующие цвета и логотипы повышают CTR в среднем в 2 раза. Последствия такого причинного вывода могут значительно улучшить рентабельность инвестиций в рекламу, а также качество обслуживания потребителей за счет демонстрации более привлекательной рекламы по сравнению с менее привлекательной.

FMCG-бренды часто полагаются на рекламные акции, чтобы стимулировать продажи и стать ближе к потребителям. Однако они продолжают измерять влияние этого продвижения на ложные корреляции, а не на причинно-следственные связи.Вместо этого они должны провести всестороннее исследование внутренней причинно-следственной связи между потребностями продукта для определения эффектов «ореола» и «каннибализации», не говоря уже о том, чтобы изолировать влияние деятельности, связанной с продвижением, и инвестиций от временных факторов.

Три обвинительных приговора в пользу преемника

Повышение прозрачности того, как работают модели AI / ML, и раскрытие обоснований для прогнозов, сделанных этими моделями, может помочь лицам, принимающим решения, наметить следующие шаги.Чтобы начать внедрять и создавать дополнительную ценность из причинно-следственного интеллекта, они могут начать сейчас, следуя трем убеждениям:

1. Начните собирать более полные данные: Не ограничивайте себя данными, которые у вас уже есть. Вместе со всеми заинтересованными сторонами в сфере бизнеса и технологий определите все внутренние и внешние факторы, которые могут повлиять на эффективность вашего продукта на рынке. Затем вы можете начать сбор данных и объединить все источники данных вместе.

2.Объедините AI / ML и человеческий интеллект: при определении путей / связей между различными факторами сеть может быть построена на чистой статистике. Но не забудьте проверить и настроить сеть с участием ключевых бизнес-экспертов, чтобы уменьшить предвзятость и выявить запретные связи.

3. Поддерживайте вовлеченность конечных пользователей и заинтересованных сторон с самого начала: причинно-следственная разведка требует много времени, учитывая широкий спектр используемых точек данных, а также участие экспертов по бизнесу.Эти заинтересованные стороны и конечные пользователи должны быть вовлечены в путь с самого начала.

За пределами прогнозов: причинно-следственный интеллект в машинном обучении

Введение

Доступность огромных наборов данных в сочетании с резким развитием вычислительной мощности открыла множество возможностей для понимания и применения данных по-новому. Движущей силой этого процесса является машинное обучение, подмножество искусственного интеллекта (ИИ), которое развертывает сложные алгоритмы, которые могут находить неоткрытые закономерности в массивных и разнообразных наборах данных, автоматически обучаясь и улучшаясь в процессе.

Прогнозирование — основная конечная цель современного машинного обучения. Практически во всех отраслях, включая финансы, медицину и оборону, инициативы стремительно развиваются, чтобы использовать машинное обучение, основанное на исторических данных, для оценки результатов и принятия важных решений.

Хотя ИИ может открывать прогностические идеи на основе неиспользованных данных, быстрое развитие машинного обучения и стремление воспользоваться им привели многие организации к фундаментальной ошибке: путанице корреляции с причинно-следственной связью.

Понимание и обработка причинно-следственных связей — одна из самых ценных черт человеческого мозга, но на сегодняшний день в решениях для машинного обучения это в значительной степени отсутствует. Способность ИИ распознавать закономерности поразительна, но, несмотря на все свои возможности, он не может определить, является ли крик петуха причиной восхода солнца или наоборот. Другими словами, он эксперт в обнаружении корреляции, но неспособен объяснить причинно-следственную связь.

Пока машинное обучение основывается на «подборе кривой» — прогнозировании результатов на основе прошлых ассоциаций — без учета причинно-следственной связи, его предписывающая ценность по своей сути будет ограничена.Модели, основанные на корреляции, даже с усовершенствованными алгоритмами, по-прежнему подвержены опасностям, которые могут вводить в заблуждение и даже вредить.

Напротив, включение причинно-следственного интеллекта в машинное обучение может выйти за рамки простого подбора кривой, обеспечивая более глубокое понимание анализируемых процессов и более значимый подход к оценке действий и улучшению результатов. Эта возможность жизненно важна в контексте все более сложных политических, социальных и деловых проблем, которые подвержены быстрым изменениям и включают множество переменных и потенциальных причинно-следственных связей.

Причинно-следственный интеллект необходим для того, чтобы вывести машинное обучение за рамки простого прогнозирования кривой и перейти к динамическим, объяснимым и действенным рецептам.

Опасности корреляционных моделей

Одна из самых впечатляющих возможностей машинного обучения — выявление связей в данных, которые в противном случае остались бы незамеченными. С помощью современных алгоритмов сопоставления с образцом «найти иголку в стоге сена» превратится из невыполнимой задачи в детскую игру.

К сожалению, новизна обнаружения этих ассоциаций и желание быстро извлечь выгоду из моделей, управляемых данными, может облегчить замалчивание более сложных вопросов о том, что на самом деле означают ассоциации. Прогнозы, основанные на корреляциях, независимо от того, насколько они продвинуты, подвержены различным формам предвзятости.

Положение о том, что корреляция не равняется причинно-следственной связи, хорошо известно, и для таких примеров, как солнце и петух, это очевидно. Но в более сложных контекстах, особенно наполненных горами данных, различие может быть труднее распознать.

Типы данных в моделях на основе корреляции

Для поиска ассоциаций модели на основе корреляции требуются установленные наборы данных для работы, но не все данные созданы равными. Конечно, непроверенная или плохо собранная информация является препятствием для любого тщательного анализа, но даже среди хорошо проверенных наборов данных важно знать тип задействованных данных и различать данные наблюдений и экспериментальные данные.

Данные наблюдений поступают из ситуаций, в которых информация записывается без специального вмешательства, применяемого к изучаемой группе или субъекту.Напротив, данные, полученные при измерении результата после вмешательства, обычно с контрольной группой, известны как экспериментальные данные.

Чтобы подчеркнуть разницу, рассмотрим пример регионального банка, анализирующего данные о том, как сократить просроченные платежи по ипотеке.

• Данные наблюдений могут включать истории транзакций клиентов, кредитные рейтинги, тенденции в сфере недвижимости, оценки домов, финансовые профили, налоговые записи, макроэкономические показатели и другие аналогичные ресурсы.
• Экспериментальные данные может быть труднее получить, но они могут быть доступны, если банк пытался повлиять на поведение клиентов в прошлом, например, путем разработки инструмента онлайн-бюджетирования для подгруппы своих клиентов. В этом случае клиенты, которым был предложен инструмент бюджетирования, были бы исследовательской группой, те, кому его не предлагали, были бы контрольной группой, и сравнение результатов между ними предоставило бы источник экспериментальных данных.

Этот пример демонстрирует одно из основных преимуществ данных наблюдений: по сравнению с экспериментальными данными они гораздо более доступны.Хотя экспериментальные данные часто более наглядны и надежны, их получение может оказаться непрактичным по нескольким причинам:

1. Время: Проведение эксперимента, особенно того, который предназначен для оценки результатов в среднесрочной и долгосрочной перспективе, может оказаться невозможным. учитывая временные ограничения организации.
2. Стоимость: Разработка и проведение экспериментальных исследований могут быть дорогостоящими, и эта проблема может быть особенно острой для сложных исследовательских вопросов и в области медицины.
3. Этика: Для определенных типов исследований, например, тех, которые проверяют токсичность химического соединения, этически неприемлемо экспериментировать с людьми, подвергая некоторые из них потенциально опасному агенту.

Даже когда экспериментальное исследование целесообразно, оно может быть нежелательным. В примере с ипотечными платежами, хотя банк может получить экспериментальную информацию, предлагая инструмент бюджетирования только определенной группе клиентов, руководители банка могут испытывать неудобства, исключая клиентов из программы и ограничивая доступ к инструменту с самого начала.

Неудивительно, что данные наблюдений обычно более доступны и имеют более широкий охват. По этой причине большинство решений для машинного обучения зависят от наборов данных, состоящих преимущественно из данных наблюдений, но эта зависимость может быть ключевым фактором недостатков и ошибочных прогнозов моделей, основанных на корреляции.

Что такое корреляционная модель?

Модель, основанная на корреляции, использует существующие источники данных наблюдений для прогнозирования будущих результатов.Он выявляет исторические закономерности и моделирует их для построения перспективных прогнозов.

Изображение: Зак Вайнерсмит

Различные типы статистического анализа и моделирования, такие как регрессионный анализ, могут использоваться в подходах на основе корреляции, но они не обязательно должны включать расширенные вычисления или искусственный интеллект. Несгибаемые любители спорта, которые замечают, что их команда побеждает всякий раз, когда они надевают определенную пару носков, используют модель, основанную на корреляции, хотя и чрезвычайно грубую, когда они продолжают носить эти носки весь сезон, даже не стирая их.

Изображение: Кейт Эллисон

Хотя информация фанатов исходит только из их ограниченных личных наблюдений, платформы больших данных могут использовать преимущества огромных баз данных. Связывая различные источники информации — финансовые и медицинские записи, данные переписи населения и общедоступные документы — лишь малая часть того, что можно было бы включить, — машинное обучение может найти ассоциации, которые иначе, вероятно, никогда не были бы выявлены.

Модель на основе корреляции использует подход аппроксимации кривой, применяя шаблоны в предшествующих данных для прогнозирования будущих условий.Таким образом, если обнаруживается ассоциация, в которой успеху местной спортивной команды исторически предшествовало падение доходов прачечной, модель на основе корреляции может предсказать неизбежную победу всякий раз, когда прачечные сообщают о снижении доходов.

Конечно, с причинной точки зрения доход прачечной не имеет ничего общего с достижением победы, но именно такие ассоциации выявляют стандартные модели, основанные на корреляции. Использование этих типов моделей для информирования о действиях, направленных на повышение шансов на победу в большем количестве игр, было бы ошибочным и опасным.

Какие проблемы возникают в моделях, основанных на корреляции?

Выявление корреляций может иметь смысл, особенно если оно вдохновляет на дополнительные исследования, чтобы объяснить, почему существует корреляция. Однако, когда модели, основанные на корреляции, сталкиваются с проблемами, так это в установлении причинно-следственной связи, когда была обнаружена только связь.

Статистики и эпидемиологи тщательно поработали, чтобы определить конкретные способы, которыми корреляции, особенно полученные на основе данных наблюдений, могут способствовать неточностям.Были выявлены десятки типов предвзятости, и два из самых распространенных — это искажение и предвзятость отбора.

Confounders

Должностные лица общественного здравоохранения, стремящиеся сократить случаи смерти от несчастных случаев, могут быть заинтригованы неожиданной ассоциацией: в летние месяцы всплеск продаж мороженого сопровождается аналогичным ростом числа случаев утопления. Хотя некоторые могут предложить запретить мороженое во имя общественной безопасности, небольшое размышление показывает, что третий фактор — повышение температуры — вероятно, объясняет увеличение как потребления мороженого, так и случаев утопления.

В этом примере летняя жара мешает. Это влияет на потребление мороженого (люди хотят прохладного угощения) и утопления (больше людей проводят время на пляже или у бассейнов). Поскольку вмешивающийся фактор влияет на обе рассматриваемые переменные, становится проблематичным установить причинно-следственную связь между мороженым и частотой утопления.

В то время как некоторые корреляции, которые могут быть искажены, например, связь между мороженым и утоплением, вызывают немедленный скептицизм, другие могут быть менее очевидными.Изучая данные своих клиентов, банк может обнаружить, что владельцы бизнеса, которые посещают свой местный филиал не реже одного раза в месяц, с большей вероятностью будут своевременно вносить платежи по кредиту. Заманчивый вывод заключается в том, что поддержание личных взаимоотношений с клиентами способствует своевременным платежам, но потенциальные факторы, вызывающие затруднения, означают, что одни данные не могут подтвердить это.

В этом случае заинтересованные и очень внимательные владельцы бизнеса могут сбивать с толку. Их внимание к деталям может означать, что они, скорее всего, будут в курсе платежей и , чтобы регулярно посещать банк только для того, чтобы убедиться, что все в порядке.Поскольку их личные качества могут независимо влиять на обе переменные, это снижает возможность установления причинно-следственной связи. Возможно, эти владельцы бизнеса с большей вероятностью заплатили вовремя из-за личного посещения банка, но нет никакого способа узнать это наверняка из данных наблюдений.

Хотя противоречия чаще возникают при анализе наблюдательных исследований, важно отметить, что они могут иметь место и в экспериментальных исследованиях. Тщательный дизайн исследования, направленный на устранение различий между экспериментальной и контрольной группами, снижает вероятность смешения, но неизвестные или неучтенные переменные все еще могут влиять на результаты контролируемого исследования.

Ошибка отбора

Ошибка отбора возникает, когда оцениваемые данные поступают от населения, которое не является репрезентативным для более широкой группы, к которой будут применяться результаты исследования.

Одна из самых известных иллюстраций управления систематической ошибкой отбора — это исследование Абрахама Вальда, который советовал военным, как улучшить живучесть самолетов во время Второй мировой войны, войны в Корее и войны во Вьетнаме. Укрепление всего самолета было бы слишком дорогостоящим и тяжелым делом, поэтому Уолд решил определить наиболее стратегические районы, в которых можно было бы усилить оборону самолета.

Вальд осмотрел самолеты, вернувшиеся с вылетов, чтобы увидеть, где они принимали наибольший обстрел. Его рекомендация? Укрепите все области, которые показали наименьшего урона . Если это предположение кажется нелогичным, то это из-за предвзятости отбора, которой Уолд поступил мудро, чтобы избежать. Он понял, что изучает уцелевшие самолеты, но его больше всего беспокоили самолеты, которые не вернулись. Если самолеты могли выдержать повреждения, которые он видел, и все же вернуться на базу, это означало, что повреждение других областей было большей угрозой для самолетов и их экипажа.

Изображение: McGeddon / CC BY-SA

В бизнес-среде смещение выбора может возникать при попытке экстраполировать успехи из одного параметра в другой. Например, рассмотрим сеть ресторанов быстрого питания, которая ищет стратегию увеличения доходов. Проанализировав данные, они обнаружили, что эффективность их самого продаваемого магазина определяется продажами семейных комбинированных обедов. Поскольку маркетинговая команда готовит кампанию по семейному комбинированному обеду во всех своих местах, опытный аналитик указывает на предвзятость выбора: самый продаваемый магазин находится в жилом районе с высокой концентрацией домохозяйств с двумя или более детьми.Без учета различий в сообществе, окружающем каждый магазин, сеть рискует инвестировать в маркетинговую стратегию, основанную на нерепрезентативном анализе.

Изображение: Steak ‘n Shake

Предвзятость выбора также может идти рука об руку с ошибками. Если исследователи хотят выяснить, связано ли прием определенных добавок с потерей веса, они могут провести регрессионный анализ данных наблюдений из опросов о состоянии здоровья и медицинских записей. Но покупатели добавок могут не быть репрезентативной выборкой: они могут быть более заботливыми о своем здоровье и склонны к физическим упражнениям и здоровому питанию, что может нарушить любые закономерности потери веса, обнаруженные в данных.

Подобно смешиванию, систематическая ошибка отбора не ограничивается обсервационными исследованиями, но в экспериментальных исследованиях обычно делается повышенный акцент на тщательном определении подходящих участников исследования, чтобы с самого начала искоренить систематическую ошибку отбора.

Уменьшение систематической ошибки в моделях, основанных на корреляции

Для устранения систематической ошибки в исследованиях, основанных на наблюдениях, и моделях, основанных на корреляции, использовался ряд статистических методов. При точной настройке вычислений делается попытка отфильтровать искажающие данные или учесть систематическую ошибку выбора, а планки ошибок могут отражать возможность вариации в рамках прогнозов, основанных на корреляции.Хотя этот вклад в анализ данных следует признать, необходимо признать их ограничения. Предвзятость часто может возникать даже в хорошо продуманных подходах, и на практике многие организации применяют регрессионный анализ без тщательного анализа методов, которые их создали, или без четких протоколов для проверки своих прогнозов.

Заблуждения о «прогностической силе» в машинном обучении

Ограничения корреляционного метода могут показаться очевидными из приведенных выше примеров, и эти недостатки, безусловно, не являются главными новостями в таких областях, как биостатистика и эпидемиология.Почему же тогда нужно бить тревогу, когда речь идет об искусственном интеллекте и машинном обучении?

Потому что корреляционные модели, основанные на машинном обучении, склонны давать неверные рекомендации об оптимальных следующих шагах. Нет сомнений в том, что машинное обучение позволяет анализировать данные с огромной скоростью и масштабом. Но готовые решения искусственного интеллекта, особенно те, которые продаются на корпоративном рынке, могут под лозунгом прогнозирования обеспечивать видимость причинно-следственной связи, даже если данные поддерживают только корреляцию.

Многочисленные приложения ИИ и машинного обучения — это мощные инструменты, позволяющие глубже, чем когда-либо, копать данные наблюдений. Однако это не устраняет серьезных проблем, таких как смешение и систематическая ошибка отбора. Фактически, привлекательность передовых технологий может затмить тот факт, что большая часть ИИ не может различать экспериментальные данные и данные наблюдений и не имеет возможности устанавливать причинно-следственные связи. Как следствие, использование стандартных AI и ML для принятия решений может быть опасным.

Источник: Medium

Одним из результатов искусственного интеллекта, управляемого ассоциациями, является повышенная идентификация ложных корреляций, то есть переменных, которые, как показано, связаны, но не имеют истинных причинно-следственных связей.Вместо этого корреляция может быть полностью случайной или результатом смешения.

В бизнесе, медицине и государственной политике отказ от тщательного изучения ложных корреляций, возникающих из-за алгоритмов машинного обучения, может привести ко всем типам стратегических ошибок и ошибочному принятию решений с серьезными экономическими последствиями и последствиями для здоровья.

Даже когда ассоциации не являются ложными, корреляционные модели страдают от неспособности понять лежащие в основе отношения.Модель на основе корреляции может выявить сильную связь между распроданными спортивными мероприятиями и высокими ценами на билеты. Основываясь на этой ассоциации, модель может предсказать, что проигравшей команде с низкой посещаемостью действительно нужно повысить продажи билетов, так это поднять цены. Поскольку она не учитывает причинно-следственную связь, модель, основанная на корреляции, не может распознать, что спрос на билеты стимулирует более высокие цены, а не наоборот.

Еще одно заблуждение о моделях, основанных на корреляции, состоит в том, что они могут усиливать социальное неравенство, вопрос, который подчеркивается в обсуждениях алгоритмической справедливости.Приведем один пример: Amazon попыталась развернуть машинное обучение для набора персонала, чтобы определить лучших кандидатов, но, исходя из различий в найме мужчин и женщин в технологической отрасли, которые присутствовали в исторических наборах данных, алгоритм начал предсказывать, что кандидаты-мужчины будут лучше нанимает. Он дискриминировал заявки, в которых упоминались женские колледжи или женские организации, пока Amazon не отредактировала алгоритм, а затем в конечном итоге полностью распустила проект.

Изображение: Machine Learning Techub

Причинный вывод: почему имеет значение причинность

Причинные рассуждения — один из самых мощных компонентов человеческого интеллекта. В повседневной жизни большие и маленькие решения основываются на фундаментальном понимании причин и следствий.

Способность видеть, как действие влияет на результат, служит строительным блоком для того, как мы понимаем мир и действуем в нем, но в то же время эта форма мышления настолько укоренилась, что часто упускают из виду основные вопросы о том, какая причинность средства и почему это важно.

Основа причинно-следственного вывода

Причина и следствие кажутся очевидными, но в последние 15 лет исследователи пытались применить стандарты математики и научных рассуждений, чтобы понять, что влечет за собой причинность.

Ведущим мыслителем в этой области является Джудея Перл, профессор кафедры когнитивных наук Калифорнийского университета в Лос-Анджелесе. В то время как Перл получил известность благодаря системе формул и графиков, демонстрирующих причинность, не требуется ученая степень, чтобы понять его основные идеи о причинном умозаключении — процессе, с помощью которого мы устанавливаем понятия причинности.

Для Перла причинный вывод можно понимать как постепенное продвижение по иерархии или «лестнице причинно-следственной связи».

1. На самом низком уровне находится ассоциация, которая представлена ​​наблюдением и корреляцией.
2. Второй уровень — это вмешательство или действие. Экспериментальное исследование с запланированным действием и измеренным результатом — это форма вмешательства. A / B-тестирование в информатике или рандомизированные контролируемые испытания (РКИ) в медицине считаются золотым стандартом вмешательства.В этом исследовании как контрольная, так и экспериментальная группы определяются случайным образом, а конкретные результаты, которые необходимо измерить, устанавливаются заранее. Ослепление, при котором организаторы исследования, участники или оба не знают, кто входит в какую группу, может еще больше снизить вероятность систематической ошибки в исследованиях с контролируемым вмешательством.
3. Третий и верхний уровень — это контрфактические рассуждения, что означает мышление задним числом и воображение, например, размышление о том, как все могло бы быть иначе.

   Был ли X причиной Y?

   Что, если бы X не произошло?

   Я похудела из-за физических упражнений?

   Что, если бы мы не подняли цены?

   2.Вмешательство

   (делаю)

   Что, если я сделаю X?

   Как я могу заставить что-то случиться?

   Приведут ли упражнения к потере веса?

   Что будет, если мы поднимем цены?

   1. Ассоциация

   (видение, наблюдение)

   Что мы наблюдаем?
   Как связаны две или более переменных?

   Каждый раз, когда звонят в колокольчик, предоставляется еда (собаки Павлова)

   Что показывают данные обследования здоровья о физических упражнениях и потере веса?

   * Источник: адаптировано из «Семи инструментов причинного вывода с размышлениями о машинном обучении», «ИИ не может понять, почему» и «Книга почему»

   В этой иерархии ассоциации и корреляции не лишены важности ; вместо этого их значение контекстуализировано.Корреляции понимаются как статистические наблюдения, способные предоставить полезную информацию, но неспособные продемонстрировать причинно-следственную связь без более продвинутых рассуждений, основанных на вмешательстве или контрфактах. Понимание различий между вопросами, задаваемыми на каждом уровне, обеспечивает основу для причинно-следственного вывода и проверку против смешения корреляции с причинно-следственной связью.

   Применение причинного вывода

   Лестница причинности обеспечивает основу для причинного вывода.В случае A / B-тестирования или других контролируемых вмешательств продуманный дизайн исследования облегчает прямое определение причинно-следственной связи путем прямого сравнения результатов в экспериментальной и контрольной группах. Когда эти испытания невозможны, причинно-следственная связь должна быть выведена с использованием более сложного и детального анализа.

   В 1950-е годы разгорелись споры о том, вызывает ли курение сигареты рак. Медицинская этика не позволяла проводить рандомизированное испытание, в котором люди преднамеренно подвергались воздействию табачного дыма, поэтому причинный вывод был критически важным.В подавляющем большинстве данных наблюдений связь между курением и раком показала такие характеристики, как сильная, последовательная и биологически правдоподобная, которые в совокупности убедительно продемонстрировали причинно-следственную связь.

   Инструменты причинного вывода становятся все более изощренными, поскольку табачный дым был признан канцерогеном. Исследователи уточнили и стандартизировали понимание причинно-следственных связей и процессов их изучения.

   Воодушевленный этой работой, современный причинно-следственный вывод опирается на технические диаграммы, которые определяют переменные, влияющие на результат.Отношения между переменными можно сформулировать математически и проверить с помощью мощных статистических методов. Этот процесс может включать в себя уровни знаний предметной области для выявления механизмов, объясняющих причинно-следственную связь, учета искажающих факторов и систематической ошибки отбора, перекрестной проверки выводов и обеспечения более надежных причинно-следственных связей, которые могут использоваться для эффективных вмешательств.

   Сила причинного интеллекта

   Во всех типах принятия решений причинный интеллект приносит огромные дивиденды.Это позволяет лучше осознавать последствия любого действия и, когда он отвечает на вопрос «почему?» вопрос, дает возможность комплексного использования разума для оптимизации действий практически в любом аспекте личной и профессиональной жизни.

   В машинном обучении можно добиться значительных успехов, включив причинно-следственный интеллект, чтобы сделать «мини-революцию в искусственном интеллекте». Такой шаг позволил бы машинному обучению выйти за рамки его нынешнего внимания к поиску корреляций. Вместо того, чтобы просто использовать старые данные для прогнозирования будущих результатов, машинное обучение, использующее причинно-следственный вывод с помощью инновационных методов и закодированных знаний предметной области, дает достоверную, точную и полезную информацию, которая может способствовать эффективному принятию решений.

   Действующее предписание

   Причинно-следственная разведка генерирует действенную и перспективную информацию. Простая модель машинного обучения на основе корреляции может помочь выявить пациентов с высоким риском сердечно-сосудистых проблем, таких как сердечная недостаточность или инсульт, но она не может помочь определить терапию, которая могла бы наилучшим образом снизить этот риск. Поскольку модель ориентирована исключительно на поиск закономерностей и корреляций, она не дает полезного понимания следующих шагов вмешательства и его возможных результатов.

   Причинный вывод устраняет этот недостаток, предлагая метод понимания последствий действия, даже если экспериментальные данные недоступны. В эпидемиологии «целевое испытание» пытается использовать данные наблюдений для имитации рандомизированного исследования и предоставить врачам ресурсы, чтобы давать обоснованные рекомендации своим пациентам даже в отсутствие прошлых клинических испытаний.

   Та же концепция целевых испытаний может применяться и в бизнесе. Для команд интернет-маркетинга нормально размещать несколько рекламных объявлений одновременно, и общая проблема заключается в том, чтобы знать, какая из их объявлений на самом деле способствует продажам.Если разные клиенты видят разную последовательность объявлений, трудно определить, какая реклама была наиболее эффективной.

   Методы причинно-следственного вывода позволяют изучать данные наблюдений о показе рекламы клиентам способами, имитирующими экспериментальную и контрольную группы. Прилежно проводя это сравнение, компании могут использовать причинно-следственные связи для выявления рекламы, которая с наибольшей вероятностью будет стимулировать конверсию клиентов, и предоставить полезную информацию для своих маркетинговых стратегий.

   Объединение причинно-следственного вывода с машинным обучением открывает еще большие возможности в развертывании науки о данных для получения действенных рецептов.В рамках экспериментального исследования исследователи намеревались предложить основанные на данных советы людям в развивающихся странах, которые хотят получить микрокредиты через онлайн-платформу. Технология машинного обучения обрабатывала письменные описания проектов, размещенные в Интернете, чтобы выявить ключевые факторы, влияющие на финансирование, а затем применяла причинно-следственную связь, чтобы определить, быстрее ли поступило финансирование для индивидуальных или групповых соискателей. Их анализ показал значительную выгоду для групповых проектов, предоставляя непосредственное руководство людям, чьи средства к существованию могут зависеть от успешных заявок на получение микрокредитов.

   Изображение: Kiva

   Эти примеры просто касаются поверхности возможности добавления причинно-следственных связей в машинное обучение. Модели машинного обучения на основе причинно-следственных связей предоставляют значимую информацию, которая может способствовать более разумному и эффективному принятию решений.

   Понимание причинно-следственной связи и улучшение прогнозных моделей

   Хотя использование причинно-следственного интеллекта в первую очередь поможет в принятии решений, последующим преимуществом будет то, что с нашим улучшенным пониманием того, как работают базовые системы, мы сможем использовать эти знания для лучшего построения прогнозные модели машинного обучения.

   Фантастическим примером этого является эпидемиологическое моделирование COVID-19. Когда в США начались вспышки, модель, разработанная Институтом показателей и оценки здоровья (IHME), широко использовалась для прогнозирования развития пандемии. IHME использовал существующие данные из других стран для построения статистической модели для прогнозирования использования больниц и смертности в США

   К сожалению, первоначальные прогнозы IHME оказались совершенно не соответствующими. Построенная в основном на проекциях подгонки кривой, модель не учитывала весь спектр основных причинных факторов, таких как уровни тесного межличностного контакта, которые приводят к передаче вируса.Альтернативные модели, в том числе те, которые включают машинное обучение, учитывают эффекты вмешательства, такие как социальное дистанцирование и ношение масок, и оказались более эффективными при прогнозировании траектории COVID-19.

   Точно так же исторический успех прогнозов Нейта Сильвера FiveThirtyEight о выборах проистекает из очень глубокого понимания его организацией основных политических и избирательных процессов, которые приводят к определенным результатам выборов. Прогнозы о выборах, сочетающие знания экспертов в предметной области и моделирование на основе данных опросов, превосходят наивные подходы, которые просто обрабатывают числа опросов для генерации вероятностей.Такого рода экспертные знания приходят из реального понимания причинных процессов в системе.

   Стандартное прогнозное моделирование усиливается за счет понимания причинных процессов; он более чувствителен к изменяющимся обстоятельствам и динамическим переменным, что позволяет ему создавать более надежные прогнозы. Это улучшает проверяемость и легитимность системы и, в конечном итоге, укрепляет уверенность в ценности прогнозов. Такое понимание того, как работают основные процессы, можно построить, используя причинный вывод и каузальное мышление.Используя знания о причинно-следственных связях наряду с вычислительной мощностью, машинное обучение может анализировать сложные данные и события, в том числе те, которые имеют множество причинных влияний, чтобы пролить свет на наиболее серьезные проблемы, с которыми сталкиваются правительства, общество, наука и бизнес.

   Заключение

   На сегодняшний день отличительной чертой машинного обучения является разработка алгоритмов, которые выявляют новые корреляции из разрозненных и значительных наборов данных. Хотя эта возможность впечатляет технологически и имеет полезные практические применения, она сталкивается с основным ограничением в своей неспособности понять причинно-следственные связи.

   К сожалению, организации, использующие машинное обучение для прогнозирования, ориентированного на результат, рискуют упустить из виду это ограничение и назначить причинность в ситуациях, когда данными поддерживается только корреляция. Из-за значительных потенциальных источников систематической ошибки, включая искажающие факторы и ошибки отбора, модели, основанные на корреляции, подвержены серьезным ошибкам и уменьшаются в полезности.

   Специальная инициатива по пониманию причинно-следственных связей и включению компонентов причинно-следственной связи в алгоритмы машинного обучения может подготовить почву для значительных разработок в области ИИ.Этот шаг вперед может продвинуть машинное обучение за пределы прогнозов и к рецептам — практическим идеям, — полученным на основе здравых и логических причинно-следственных рассуждений. Конечно, внедрение причинно-следственного интеллекта в машинное обучение — непростая задача, но она необходима для достижения ИИ новых и более продуктивных функций помимо функций существующих моделей, которые ограничиваются предсказанием на основе корреляции.

   Обзор машинного обучения причинного вывода

   В центр управления сетью крупного оператора хлынет поток жалоб.Сеть не работает в большом городе США; звонки прерываются, а критическая инфраструктура медленно реагирует. Просматривая историю событий системы, менеджер видит, что сегодня в пострадавшем районе были установлены новые вышки 5G.

   Установка этих башен вызвала отключение электричества или это было просто совпадением? В подобных обстоятельствах возможность точно ответить на этот вопрос имеет решающее значение для Эрикссон.

   Большая часть науки о данных на основе машинного обучения фокусируется на прогнозировании результатов, а не на понимании причинно-следственной связи.Однако некоторые из крупнейших имен в этой области согласны с тем, что важно начать включать причинно-следственную связь в наши системы искусственного интеллекта и машинного обучения.

   ————————————————- ——————————————

   Прочтите технический документ Ericsson: Искусственный интеллект и машинное обучение в системах следующего поколения

   ————————————————- ——————————————

   Йошуа Бенжио, один из самых признанных в мире экспертов по ИИ, объяснил в недавнем интервью Wired: «Интегрировать [причинно-следственную связь] в ИИ — важное дело.Современные подходы к машинному обучению предполагают, что обученная система ИИ будет применяться к тем же типам данных, что и обучающие данные. В реальной жизни часто бывает не так ».

   Янн ЛеКун, недавний лауреат премии Тьюринга, разделяет ту же точку зрения, написав в Твиттере: «Многие люди в ML / DL [глубоком обучении] знают, что причинный вывод — важный способ улучшить обобщение».

   Причинно-следственный вывод и машинное обучение могут решить одну из самых больших проблем, с которыми сегодня сталкивается машинное обучение, — то, что множество реальных данных не генерируется таким же образом, как данные, которые мы используем для обучения моделей ИИ.Это означает, что модели машинного обучения часто недостаточно надежны для обработки изменений типа входных данных и не всегда могут быть хорошо обобщены. В отличие от этого, причинно-следственный вывод явно преодолевает эту проблему, рассматривая, что могло бы произойти, столкнувшись с недостатком информации. В конечном итоге это означает, что мы можем использовать причинно-следственный вывод, чтобы сделать наши модели машинного обучения более надежными и обобщаемыми.

   Что такое причинный вывод?

   Когда люди рационализируют мир, мы часто думаем о причинах и следствиях — если мы понимаем, почему что-то произошло, мы можем изменить свое поведение, чтобы улучшить будущие результаты.Причинно-следственный вывод — это статистический инструмент, который позволяет нашим алгоритмам искусственного интеллекта и машинного обучения рассуждать аналогичным образом.

   Допустим, мы смотрим на данные из сети серверов. Мы заинтересованы в понимании того, как изменения в наших сетевых настройках влияют на задержку, поэтому мы используем причинный вывод, чтобы заранее выбирать наши настройки на основе этих знаний.

   Выявление причин с помощью рандомизированных контролируемых исследований

   Золотым стандартом для определения причинных эффектов являются рандомизированные контролируемые испытания (РКИ) или A / B-тесты.В РКИ мы можем разделить популяцию людей на две группы: лечение и контроль, лечение одной группы и ничего (или плацебо) другой и измерение результатов в обеих группах. Предполагая, что экспериментальная и контрольная группы не слишком различаются, мы можем сделать вывод о том, было ли лечение эффективным, основываясь на разнице результатов между двумя группами.

   Однако мы не всегда можем проводить такие эксперименты. Наполнение половины наших серверов большим количеством запросов может быть отличным способом узнать, как это влияет на время отклика, но если это критически важные серверы, мы не сможем выполнять на них DDOS-атаки.Вместо этого мы полагаемся на данные наблюдений — изучая различия между серверами, которые естественно получают много запросов, и серверами с очень небольшим количеством запросов.

   Что мы можем сделать с чисто наблюдательными данными?

   Есть много способов ответить на этот вопрос. Один из самых популярных подходов — это метод Джудеи Перла, который использует статистику для создания причинных выводов. В этом подходе мы возьмем модель или график, который включает измеримые переменные, которые могут влиять друг на друга, как показано ниже.

   Чтобы использовать этот график, мы должны предположить причинное условие Маркова. Формально он говорит, что при наличии набора всех своих прямых причин узел не зависит от всех переменных, которые не являются прямыми причинами или прямыми следствиями этого узла. Проще говоря, предполагается, что этот график отражает все реальные отношения между переменными.

   Еще один популярный метод вывода причин из данных наблюдений — это модель потенциальных результатов Дональда Рубина.Этот метод не полагается явно на причинно-следственный график, но по-прежнему предполагает многое о данных, например, что нет никаких дополнительных причин, кроме тех, которые мы рассматриваем.

   Причинно-следственный вывод на примере сети серверов

   Для простоты наши данные содержат три переменные: лечение, результат и ковариату. Мы хотим знать, влияет ли большое количество запросов к серверу на время ответа сервера.

   • Обработка x — это двоичная переменная (во всех представленных здесь методах это должно быть правдой): 0 указывает на небольшое количество запросов к серверу, а 1 указывает на большое количество запросов
   • Результат y (обычно он может быть непрерывным, то есть может принимать любое значение): время ответа сервера (в секундах)
   • Ковариата z — еще одна переменная, которая может повлиять на результат — здесь мы рассматриваем процент использованной памяти на сервере

   В нашем примере количество запросов к серверу определяется значением памяти: более высокое использование памяти означает, что сервер с меньшей вероятностью будет получать запросы.Точнее, вероятность наличия большого количества запросов равна 1 минус значение памяти (то есть P (x = 1) = 1-z, где P (x = 1) — вероятность того, что x равно 1) . Время отклика нашей системы определяется уравнением (или гипотетической моделью):

   y = 1⋅x + 5⋅z + ϵ

   Где ϵ — ошибка, то есть отклонение от ожидаемого значения y при заданных значениях x и z зависит от других факторов, не включенных в модель. Наша цель — понять влияние x на y посредством наблюдений за объемом памяти, количеством запросов и временем отклика ряда серверов, не имеющих доступа к этому уравнению.

   Средний эффект от лечения

   Есть два возможных назначения (лечение и контроль) и исход. Учитывая случайную группу субъектов и лечение, каждый субъект имеет пару потенциальных результатов: и, результаты Y _i (0) и Y _i (1) под контролем и лечением соответственно. Однако для каждого субъекта наблюдается только один результат, результат при фактическом лечении: Y _i = x⋅Y _i (1) + (1-x) ⋅Y < _i (0).Противоположный потенциальный результат не наблюдается для каждого субъекта и поэтому считается контрфактическим.

   Для каждого субъекта эффект лечения определяется как Y _i (1) -Y _i (0). Средний эффект лечения (ATE) определяется как средняя разница результатов между экспериментальной и контрольной группами:

   E [Y _i (1) -Y _i (0)]

   Здесь E обозначает ожидание по значениям Y _i (1) -Y _i (0) для каждого предмета, что является средним значением по всем предметам.В нашем сетевом примере правильная оценка среднего эффекта лечения привела бы нас к коэффициенту перед x в уравнении (1).

   Если мы попытаемся оценить это, напрямую вычтя среднее время отклика серверов с x = 0 из среднего времени отклика наших гипотетических серверов с x = 1, мы получим оценку ATE как 0,177. Это происходит потому, что наши лечебные и контрольные группы по своей сути не могут быть напрямую сопоставимы. В RTC мы знаем, что эти две группы похожи, потому что выбрали их сами.Когда у нас есть только данные наблюдений, другие переменные (такие как значение памяти в нашем случае) могут влиять на то, помещается ли одна единица в группу лечения или контрольную группу. Нам необходимо учесть эту разницу в величине памяти между экспериментальной и контрольной группами, прежде чем оценивать ATE.

   Вывод причин через сопоставление оценок склонностей

   Один из способов исправить это смещение — сравнить отдельные единицы в экспериментальной и контрольной группах с аналогичными ковариатами. Другими словами, мы хотим подобрать субъектов, которые с одинаковой вероятностью получат лечение.

   Оценка склонности e _i для субъекта i определяется как:

   e _i = P (x = 1∣z = z _i ), z _i ∈ [0,1]

   или вероятность того, что x равно 1 — единица получает лечение — при условии, что мы знаем, что ее ковариата z равна значению z _i . Создание совпадений на основе вероятности того, что субъект получит лечение, называется сопоставлением оценок склонности. Чтобы найти оценку предрасположенности субъекта, нам нужно предсказать, насколько вероятно, что субъект получит лечение, на основе их ковариат.

   Наиболее распространенный способ вычисления оценок предрасположенности — логистическая регрессия:

   1. Преобразование данных в обучающие данные x и метки y, столбцы x являются ковариатами (в нашем примере у x есть один столбец с использованием памяти), а y — как двоичный вектор фактического лечения, полученного для каждого субъекта, т.е. количество запросов велико или нет (переменная результата игнорируется)
   2. Обучите модель логистической регрессии по x с метками y
   3. Используйте обученную модель, чтобы предсказать вероятность y = 1 для обучающих данных x; мы прогнозируем, насколько вероятно, что сервер получит много запросов, учитывая, сколько его памяти было использовано
   4. Прогнозируемые вероятности — это баллы склонности

   Теперь, когда мы вычислили оценки склонности для каждого предмета, мы можем провести базовое сопоставление оценок склонностей и рассчитать ATE точно так же, как и раньше.Выполнение сопоставления оценок склонности на примере сетевых данных дает нам оценку 1,008!

   Что нам говорит смета?

   Мы были заинтересованы в понимании причинного эффекта бинарной обработки переменной x на результат y. Если мы обнаруживаем, что ATE положительный, это означает, что увеличение x приводит к увеличению y. Точно так же отрицательный ATE говорит, что увеличение x приведет к уменьшению y.

   Это может помочь нам понять основную причину проблемы или построить более надежные модели машинного обучения.Причинный вывод дает нам инструменты, позволяющие понять, что означает влияние одних переменных на другие. В будущем мы могли бы использовать модели причинного вывода для решения более широкого круга проблем — как в телекоммуникациях, так и вне их, — чтобы наши модели мира стали более интеллектуальными.

   Особая благодарность другим членам команды GAIA, работающим над анализом причинно-следственной связи: Wenting Sun, Никите Бутакову, Полу Маклахлану, Фую Цзоу, Ченхуа Ши, Луле Ю и Шейде Киани Мехр.

   Если вы заинтересованы в развитии этой области вместе с нами, присоединяйтесь к нашей всемирной команде исследователей данных и специалистов по искусственному интеллекту в GAIA.

   Подробнее

   В этой статье Wired лауреат премии Тьюринга Йошуа Бенжио рассказывает, почему глубокое обучение должно начать понимать, почему, прежде чем оно сможет воспроизвести истинный человеческий интеллект.

   В этом техническом обзоре причинно-следственного вывода в статистике узнайте, что необходимо для развития ИИ от традиционного статистического анализа к причинно-следственному анализу многомерных данных.

   Это журнальное эссе 1999 года предлагает введение в причинно-следственное условие Маркова.

   Причинно-следственная связь

   и машинное обучение — Microsoft Research

   В Microsoft Research наше исследование причинно-следственной связи охватывает широкий спектр тем, в том числе: использование причинно-следственных связей для улучшения методов машинного обучения; адаптация и масштабирование причинных методов для использования крупномасштабных и многомерных наборов данных; и применение всех этих методов для принятия решений на основе данных в реальных условиях.

   Примеры нашей работы можно найти в наших публикациях.

   Машинное обучение и причинное рассуждение: Между машинным обучением и причинно-следственными рассуждениями существует плодотворное взаимодействие. Машинное обучение не только предоставляет методы для обычных методов причинно-следственного вывода для масштабирования, чтобы использовать современные крупномасштабные многомерные наборы данных для ключевой оценки политики и принятия решений по качеству, но и вычислительные подходы, такие как алгоритмы поиска, имеют решающее значение для создания AutoCausal — автоматизированный специалист по данным, который может интегрировать знания предметной области, проверять причинные предположения и настраивать гиперпараметры как AutoML.В то же время методы причинного обоснования и идеи напрямую связаны с основными проблемами машинного обучения, такими как надежность, обобщаемость, предвзятость и объяснимость. Более того, понимание причинно-следственной связи широко рассматривается как ключевой недостаток современных методов искусственного интеллекта и необходимый предшественник для создания более похожего на человека машинного интеллекта.

   Ответы на причинно-следственные вопросы на основе данных: Выявление причинно-следственных связей является неотъемлемой частью научного исследования, охватывающего широкий круг вопросов, таких как понимание поведения в онлайн-системах, влияние социальной политики или факторы риска заболеваний.Поскольку вычисления все больше влияют на все сферы жизни, вопросы причинно-следственной связи также имеют решающее значение для проектирования и управляемой данными оценки всех компьютерных систем и приложений, которые мы создаем. Например, как алгоритмические рекомендации влияют на наши решения о покупке? Как они влияют на результаты обучения учащегося или эффективность работы врача? Это сложные вопросы, и они требуют размышлений о контрфакте: что произошло бы в мире с другой системой, политикой или вмешательством? Без рандомизированных экспериментов и причинно-следственных связей методы, основанные на корреляции, могут сбить нас с пути.

   Причинно-следственные инструменты, библиотеки и образование: Дополняя наши основные исследования и с целью расширения использования причинных методов в научных кругах и промышленности, мы стремимся сделать наши технологии доступными с помощью инструментов и библиотек с открытым исходным кодом, таких как DoWhy и EconML. , и часто представляют учебники по новым методам.

   ИИ нужно больше, почему

   Чтобы создавать по-настоящему умные машины, научите их причинно-следственной связи.

   Жемчужина Иудеи

   Отец байесовских сетей и вероятностного рассуждения, Джудея Перл, опубликовал в прошлом году книгу «Почему: новая наука о причине и следствии» , чтобы предположить, что будущее ИИ зависит от построения систем с понятиями причинно-следственной связи .Может показаться очевидным, что интеллектуальные машины будут понимать причины и следствия — в конце концов, они управляют автономными транспортными средствами. Но хотя методы машинного обучения превосходны в описании реального мира, им часто не хватает понимания мира — простые возмущения, которые не замечаются людьми, могут привести к тому, что современные системы глубокого обучения неправильно классифицируют дорожные знаки [2].

   Формальное моделирование и логика для поддержки, казалось бы, фундаментальных причинных рассуждений отсутствовали в науке о данных и искусственном интеллекте, и Перл упорно отстаивает эту потребность.Его недавние работы вызвали большую работу (и дискуссии) в сообществе исследователей искусственного интеллекта, в основном из-за характеристики глубокого обучения как просто «подгонки кривой».

   «Я не говорю, что хочу забыть о глубоком обучении … Но мы должны иметь возможность расширять его, чтобы делать такие вещи, как рассуждение, изучение причинно-следственной связи и исследование мира». — Йошуа Бенжио, мало чем отличается от того, что я говорю с 2012 года в The New Yorker. https://t.co/DT6Frp8eo6

   — Гэри Маркус (@GaryMarcus) 21 ноября 2018 г.

   «Причинно-следственные связи — это то место, где современные методы машинного обучения начинают спотыкаться», — отмечает когнитивист из Нью-Йоркского университета Гэри Маркус [3].Это одна из нескольких тем, лежащих в основе растущего сообщества ученых ИИ, критикующих глубокое обучение, указывая на их черную природу и алхимию; как Макс Веллинг: «Нам все еще нужны модели или просто больше данных и вычислений?» и Аднана Дарвича «Человеческий уровень интеллекта или способности животных?» настоятельно рекомендуются.

   То есть глубокое обучение и большинство методов машинного обучения (ML) в этом отношении изучают шаблоны или ассоциации из данных. Сами по себе данные наблюдений могут лишь передать ассоциации между переменными — известная поговорка корреляция не подразумевает причинно-следственной связи .Конечно, в данных могут быть скрытые причинные сигнатуры, но они неоднозначны и чаще всего искажаются отсутствующими переменными и наблюдениями, шумом и смещением, что делает нетривиальным точное определение причины и следствия. Системы машинного обучения превосходно обучаются связям между входными данными и прогнозами выходных данных, но им не хватает рассуждений о причинно-следственных связях или изменениях среды. Эти и подобные им критические замечания в отношении сегодняшнего набора инструментов машинного обучения — это не вопрос предположений или личного мнения, а скорее обоснованные истины в лежащей в основе математике.

   В качестве примера внутренних ограничений систем, ориентированных на данные, которые не руководствуются явными моделями реальности, рассмотрим модель оценки риска для госпитализированных с пневмонией [4]. На основе полученных данных модель узнала, что астматики с меньшей вероятностью умрут от пневмонии. Противоинтуитивно? Действительно. Исследователи связали странный результат с существующей политикой, лежащей в основе наблюдаемых данных: астматики с пневмонией были напрямую госпитализированы в отделение интенсивной терапии (ОИТ), поэтому получали более агрессивное лечение и, следовательно, с меньшей вероятностью умерли, чем пациенты, которым не уделялось такого же внимания. .

   Три уровня причинно-следственной связи

   Объяснение причинно-следственной иерархии, данное Перлом, помогает проиллюстрировать, какие запросы можно задать с учетом модели и данных, и что каждый уровень требует своего математического инструментария. Кратко:

   1. Ассоциация вызывает чисто статистические отношения, определяемые данными. Здесь находится большинство методов машинного обучения, основанных на теории вероятностей для изучения ассоциаций между переменными. Что симптом говорит мне о болезни?
   2. Вмешательство на один уровень выше, потому что оно включает не только наблюдение того, что есть, но и изменение того, что видишь.То есть надежная оценка эффекта, если кто-то выполняет действие или имеет возможность рассуждать о причинной структуре переменных системы. Если я возьму детский аспирин, уменьшится ли у меня риск сердечной недостаточности?
   3. Противоречие, святой Грааль причинного вывода, требует ретроспективного рассуждения, то есть рассуждения о гипотетических ситуациях. Контрфактический вывод позволяет нам оценить ненаблюдаемых результатов . Аспирин спас меня от сердечного приступа?

   Снова рассмотрим пример пневмонии.Наивная подгонка методов машинного обучения к данным без учета клинического контекста привела к неожиданным предсказаниям и моделям с непредвиденными последствиями. Теперь, вооружившись некоторой областью знаний о политике больницы, можно предложить исправить модель с помощью причинной структуры, то есть добавить клинический контекст с помощью рассуждений второго уровня. Здесь специалист по машинному обучению включит соответствующие знания в причинно-следственный граф , кодируя, какие ассоциации в наблюдаемых данных считаются действительными причинно-следственными отношениями.Эта «структурированная» модель может давать разумные прогнозы в контролируемых сценариях, но все же может быть недостаточной для причинно-следственных рассуждений: когда на обучающие данные влияют действия, контролируемые алгоритмы обучения фиксируют отношения, вызванные политиками действий, и эти отношения не обязательно будут обобщать, когда изменения политики. Для надежных моделей поддержки принятия решений нам нужны модели, которые изучают контрфактические цели — это проблема третьего уровня. Для уровней два и три Перл предлагает использовать исчисление , формализм для каузальной логики.Это выходит за рамки данной статьи, поэтому любопытный читатель, ориентированный на машинное обучение, может глубже погрузиться в серию публикаций Ференца Хусара о причинном умозаключении.

   Где мы на лестнице?

   Скорее, где на этой лестнице глубокое обучение? Достижения от современной диагностики в рентгенографии грудной клетки до навыков, превышающих человеческий уровень в таких играх, как Go и DOTA2, демонстрируют мощь и практическую полезность глубокого обучения. Тем не менее, эти методы иногда снисходительно описываются как простая «подгонка кривой» [5].

   Достаточно сказать, что эти методы сводятся к изучению очень сложных функций, определенных архитектурой нейронной сети для подключения входа X к выходу Y. Для игрового агента X — это наблюдаемое состояние игры (позиции на доске, здоровье игроков и т. Д. .) и Y будет последующим действием или планом. Как говорит Перл, «до тех пор, пока наша система оптимизирует некоторые свойства наблюдаемых данных, какими бы благородными или сложными они ни были, не ссылаясь на мир за пределами данных, мы возвращаемся на уровень 1 иерархии со всеми ограничениями, которые уровень влечет за собой »[1].Таким образом, мы обнаруживаем, что глубокое обучение находится на первой ступеньке лестницы причинных выводов Перла.

   Конечно, причинные механизмы могут быть неявными в изученных сопоставлениях ввода-вывода. Действительно, это аргумент сторонников глубокого обучения с подкреплением: методы Q-Learning [6] используют вмешательство при выборе действий, и, таким образом, в изученных сопоставлениях (от состояний к действиям) появляются причинные сигнатуры. Эти методы лежат в основе успеха глубокого обучения в играх и других приложениях обучения с подкреплением, таких как беспилотные автомобили.Тем не менее, исследователи искусственного интеллекта в лагере Перла возражают, что этих механизмов недостаточно: поверхностные изменения в наблюдаемых ассоциациях не позволяют однозначно определить основной механизм, ответственный за изменение. Эти примеры Atari демонстрируют отсутствие концептуального понимания, когда изменения среды, незаметные для человека, мешают системам глубокого обучения.

   Увеличенное изображение

   Помимо игр, причинное рассуждение имеет огромное значение. Рассмотрим, как фармацевтическая компания извлекает уроки из рандомизированного контрольного исследования (РКИ) [7] по сравнению с данными наблюдений.РКИ часто бывают дорогостоящими, медленными, невозможными и неэтичными (например, назначение плацебо страдающим пациентам). С другой стороны, полезность данных наблюдений может быть огромной, если у нас будут инструменты для выявления причинно-следственной связи. Именно поэтому Дэвид Блей, профессор Колумбийского университета и известный исследователь в области вероятностных выводов, занялся этой областью: «Допустим, вы находитесь в больнице, и у вас есть 250 миллионов электронных медицинских записей о том, какие лекарства получали люди и что с ними случилось. .Казалось бы глупым сказать, что невозможно научиться, скажем, что Адвил помогает от головных болей »[8]. Методы, которые разрабатывают Блей и другие, наряду с методом анализа Перла, являются инструментами, необходимыми для вывода причинно-следственной связи на основе чисто наблюдательных данных. В сфере здравоохранения это больше, чем проблема машинного обучения, в которую вовлечено множество заинтересованных сторон. Причинно-следственная связь в исследованиях искусственного интеллекта является решающим шагом, как и недавние разработки по дополнению РКИ реальными доказательствами.
   Позиция

   Перла ясна: «Причинные рассуждения — незаменимый компонент человеческого мышления, который следует формализовать и алгоритмизировать для достижения машинного интеллекта человеческого уровня» [1].Как исследователи ИИ работают, чтобы этого добиться? Вопрос не в том, использовать ли глубокое обучение или причинно-следственные модели, а в том, как глубоко интегрировать и объединить функции с моделями. Говоря языком книги Даниэля Канемана Thinking Fast and Slow , основанный на функциях означает «быстро», а основанный на модели — «медленный», и в литературе по когнитивной науке есть веские аргументы в пользу того, что люди должны хотя бы комбинировать их оба.

   Далее о причинности в ИИ, более глубокое погружение в причинный ИИ в медицине…

   Примечания и ссылки

   [1] «Создавать действительно интеллектуальные машины, обучать их причине и следствию», Кевин Хартнетт, Quanta Magazine, май 2018 г.

   [2] Эйхольт, Кевин и др. «Надежные атаки физического мира на визуальную классификацию с глубоким обучением». Конференция IEEE / CVF 2018 по компьютерному зрению и распознаванию образов (CVPR 2018): 1625-1634.

   [3] «Нет, искусственный интеллект не решит проблему фейковых новостей», Гэри Маркус и Эрнест Дэвис, NY Times — Opinion, октябрь 2018 г.

   [4] Каруана, Рич и др. «Разумные модели для здравоохранения: прогнозирование риска пневмонии и 30-дневная реадмиссия в больницу». 2015 ACM SIGKDD Международная конференция по открытию знаний и интеллектуальному анализу данных (KDD ’15). 1721-1730 гг.

   [5] Например, см. Прекрасную перспективную статью Дарвича «Интеллект человеческого уровня или способности животных».

   [6] Q-обучение — это широко используемый метод обучения агента в среде, цель которого состоит в том, чтобы выбрать пары состояние-действие, которые максимизируют ожидаемое дисконтированное кумулятивное вознаграждение.См. Это введение в глубокий RL: skymind.ai/wiki/deep-reinforcement-learning.

   [7] РКИ: Стандартная практика определения причинно-следственных связей в испытаниях лекарственных средств, когда пациенты распределяются по контрольной или лечебной группе, чтобы наилучшим образом изолировать эффекты лечения.

   [8] Группа MLSS Africa 2019 по причинно-следственной связи

   Причинное рассуждение: малоизвестная часть искусственного интеллекта | Ария Хадеми | Intel Student Ambassadors

   Причинное обоснование: довольно недооцененная часть искусственного интеллекта

   Искусственный интеллект (ИИ) помогает решать многие сложные проблемы реального мира.Благодаря ИИ стали возможны фильтрация спама в электронной почте, добавление подписей к изображениям, общение с Alexa (и другими устройствами) и многие другие приложения, которые еще недавно были немыслимы. Растущие темпы развития искусственного интеллекта радуют в том смысле, что он помогает решать многие из наших проблем в повседневной жизни. Однако следует также следить за (довольно) недостаточно изученными аспектами ИИ и спрашивать себя: каков один из следующих шагов в ИИ? Давайте рассмотрим несколько мнений, в которых ученые ИИ указывают на некоторые предложения для будущих исследований.

   Мнения ученых

   В недавнем интервью журналу Quanta Magazine (щелкните здесь) Джудея Перл, лауреат премии Тьюринга и профессор компьютерных наук Калифорнийского университета в Лос-Анджелесе, известный своим значительным вкладом в вероятностный ИИ и байесовские сети, отмечает, что большая часть текущей общепринятой практики в искусственном интеллекте «сводится к подгонке кривой». Подгоняя кривую, он ни в коем случае не недооценивает текущую практику ИИ, но (насколько я понимаю) обращается к задаче поиска связей между переменными.Например, учитывая большую базу данных изображений человеческих клеток, было бы полезно разработать автоматизированную систему, которая выявляет (ассоциативную) взаимосвязь между тем, является ли клетка злокачественной, и, например, ее формой. Современные непричинные методы ИИ в некоторой степени способны обнаруживать ассоциативные отношения, хотя проблемы все еще существуют. Однако, какими бы информативными ни были эти ассоциации, они не могут предоставить информацию о причинных отношениях между переменными, и, таким образом, знаменитая мантра «ассоциация — это не причинная связь».Примером может служить тесная связь между потреблением шоколада и получением Нобелевской премии во многих странах (щелкните здесь), что означает, что чем больше вы едите шоколада, тем больше у вас шансов получить Нобелевскую премию. Конечно, в этом не было бы большого смысла, но что мы упустили? Ответ на этот вопрос здесь заключается в том, что такая связь между потреблением шоколада и получением Нобелевской премии является просто ассоциативной и не должна интерпретироваться так, как будто употребление шоколада приводит к получению Нобелевской премии. Другим примером является значительная корреляция между популяцией аистов и родами детей в Германии (щелкните здесь), которую, опять же, нельзя интерпретировать как причинную, и, следовательно, связь популяции аистов с родами является следствием отсутствия надлежащего причинно-следственного анализа.

   Есть и другие мнения, в которых ученые призывают обратить внимание на причинно-следственные связи в ИИ. В статье в New York Times (щелкните здесь) Гэри Маркус, профессор психологии и нейробиологии Нью-Йоркского университета, и Эрнест Дэвис, профессор информатики Нью-Йоркского университета, пишут о проблеме фейковых новостей в Facebook (FB) и объясняют, что чтобы мы (на самом деле) могли обнаруживать фейковые новости с помощью ИИ, причинно-следственные связи должны играть роль в наших разработанных системах ИИ. Они утверждают, что без надлежащего причинно-следственного анализа обнаружение фейковых новостей вообще невозможно.Майкл Джордан, профессор компьютерных наук и статистики Калифорнийского университета в Беркли, также указывает в статье о среде (щелкните здесь) на «необходимость делать выводы и представлять причинно-следственные связи» в будущих системах искусственного интеллекта. Нетрудно найти примеры статей и опубликованных статей о важности причинного мышления в ИИ.

   Что такое причинный вывод?

   Теперь, допустим, мы хотели бы погрузиться в причинно-следственные рассуждения. Перво-наперво, можно спросить: «Какие вопросы являются причинными?» На самом деле, они не надуманы, и мы сталкиваемся с ними в повседневной жизни.Такие вопросы, как:

   • «Было бы объявление на моем веб-сайте получило больше кликов, если бы цвет фона был красным, а не синим?» или
   • «Будет ли моя новостная лента FB выглядеть намного более похожей на то, что я хочу, если бы я ответил на вопросы опроса FB?» или
   • «Было бы мое кровяное давление ниже, если бы я ел меньше соли?» или
   • «Что, если бы я употреблял сывороточный протеин вместо креатина после тренировки, набрал бы я больше мышц?» или
   • «Разве я не заболел бы раком легких, если бы не курил?»

   … и многие другие — это типы причинно-следственных вопросов.Первый вопрос касается причинного влияния цвета фона на клики по рекламе, второй — о причинном влиянии ответов на вопросы опроса на качество ленты новостей FB, третий — о причинном влиянии соли на высокое кровяное давление, четвертый — о влиянии соли на высокое кровяное давление. причинное влияние добавок на набор мышечной массы во время тренировки, и пятое о причинном влиянии курения на рак легких. В целом, многие вопросы «что, если», которые спрашивают о том, что произошло бы с , если бы мы предприняли какие-то альтернативные действия по сравнению с тем, что мы уже сделали, имеют причинно-следственный характер.Чтобы ответить на эти вопросы, необходимо выйти за рамки ассоциаций и заняться математикой причинных рассуждений — дело, которое, к счастью, продолжается в современных исследованиях в области искусственного интеллекта и других научных дисциплин, таких как статистика, эпидемиология, экономика и т.д.

   Как решать вопросы о причинном выводе?

   Наука о причинных рассуждениях имеет свои корни и развивается в различных дисциплинах, особенно в философии (начиная с Аристотеля), эпидемиологии, экономике, статистике, информатике и т. Д.В настоящее время существуют две известные хорошо зарекомендовавшие себя системы, которые обеспечивают надежную математическую инфраструктуру для причинно-следственных рассуждений:

   1) Структурные причинно-следственные модели (SCM), разработанные Judea Pearl, которые позволяют нам делать выводы о причинно-следственных связях с помощью направленных ациклических графов (DAG) ( кликните сюда). Математика вмешательства , необходимый компонент для вывода причинно-следственной связи, предоставляется в SCM через «do-оператор». При оценке того, является ли X причиной Y, с помощью этой структуры можно узнать, что в общем случае Pr (Y = y | X = x) ≠ Pr (Y = y | do (X = x)), где do (X) обозначает вмешательство в случайную величину X и Pr (.) обозначает вероятность случайной величины (обратите внимание, что здесь я рассматривал только то, является ли X причиной Y, такая связь асимметрична в причинном смысле, и, следовательно, вопрос о том, является ли Y причиной X, требует отдельного причинного анализа). Левая часть приведенной выше формулы указывает на условные вероятности (не причинно-следственные связи в целом), тогда как выяснение причинной связи между переменными требует включения вмешательства (правая часть формулы) и использования математики « do- исчисление .

   2) Схема « потенциальных результатов » (щелкните здесь), сформулированная и разработанная Дональдом Рубином (и первоначально предложенная Ежи Нейманом), профессором статистики в Гарварде, которую обычно называют причинно-следственной моделью Рубина. (RCM), или причинно-следственная модель Рубина-Неймана. Чтобы выяснить, является ли X причиной Y, эта структура, говоря на высоком уровне, противопоставляет потенциальные результаты (Y) интервенционного эксперимента, в котором точка данных (скажем, индивидуум) подвергается воздействию разных уровней X.Например, если мы хотим изучить причинный эффект Адвила на головную боль, мы сопоставим результаты (есть ли у кого-либо головная боль) интервенционного эксперимента по лечению (прием Адвила) и контролю (отказ от Адвила). Золотым стандартом для поиска такого контраста результатов является рандомизированное контролируемое исследование (РКИ), но РКИ не всегда возможны. Детали экспериментального плана, а также сведения о том, как сделать вывод о причинно-следственной связи в отсутствие РКИ, выходят за рамки этой статьи, но я был бы более чем счастлив продолжить обсуждение с заинтересованными читателями.

   Две структуры, SCM и RCM, используют два довольно разных «представления» (если можно) и наборы допущений для причинно-следственных рассуждений, но, в конце концов, аксиоматически переводимы друг в друга и в конечном итоге служат та же цель, которая заключается в выявлении причинно-следственных связей между переменными.