×

Вы используете устаревший браузер Internet Explorer. Некоторые функции сайта им не поддерживаются.

Рекомендуем установить один из следующих браузеров: Firefox, Opera или Chrome.

Контактная информация

+7-863-218-40-00 доб.200-80
ivdon3@bk.ru

Анализ многоагентных социальных моделей террористически опасной ситуации на основе теории идентичности

Аннотация

Д. A. Тымчук

В статье проведён анализ многоагентных моделей для исследования конфликтных ситуаций в обществе, крайней степенью которых является терроризм. Приведены критерии для проведения сравнения и описано, для чего каждый из них необходим. В заключение дано краткое обоснование о необходимости введения нового критерия для построения модели террористически опасных районов юга России.
Ключевые слова: многоагентные модели, социальное моделирование, терроризм, конфликтные ситуации, анализ.

05.13.01 - Системный анализ, управление и обработка информации (по отраслям)

Введение

Важность проблемы мирного сосуществования большого числа этносов в рамках огромного, и, что особенно важно, многоконфессионального государства не нова для нашего государства, однако, именно сейчас, в момент становления новой государственности и формирования национального самосознания гражданина России, она приобретает особенную важность. Постоянные вспышки террористической активности, активизация националистических настроений, экономический спад в регионах – все это свидетельствует об остроте данной проблемы и, одновременно,   дестабилизирует ситуацию.

   Безусловно, решение данной проблемы находится в области компетенций государственного аппарата, но также, является одной из важнейших исследовательских задач социальных и политических наук. Учёные различных гуманитарных ориентаций неоднократно обращались к данной проблеме, проводилось огромное число количественных и качественных исследований, что позволяет, на сегодняшний момент говорить о наличии большого объёма теоретической и эмпирической информации, связанной с проблемой межэтнической и межконфессиональной конфликтности. Однако, для принятия обоснованных управленческих решений в данной области, необходимо обладать не только всей полнотой информации, имеющейся на данный момент, но и иметь обоснованные прогнозы развития событий. И эта задача может быть решена средствами социального моделирования – междисциплинарного метода, позволяющего выявить не только актуальные характеристики системы, но и простроить возможные сценарии дальнейшего развития событий, основанные на всей полноте знаний, имеющихся о объекте исследования на данный момент.

Одним из наиболее востребованных методов социального моделирования, применяемых для исследования конфликтных ситуаций,  является многоагентное моделирование (МАМ) [1,2]. Поэтому представляет практический интерес анализ характеристик и потенциальных возможностей многоагентных моделей для исследования террористически опасных ситуаций. В настоящей статье анализируется класс многоагентных социальных моделей конфликтных ситуации, построенных на основе теории идентичности [3-5].

Критерии анализа моделей

1. Стабильность идентичности

Существует важное различие между происхождениями идентичностей, например, такой как этническая принадлежность, которая является относительно фиксированной, и гибкой идентичностью, например, такой как принадлежность к политической партии. В разных культурах отношение идентичности к типу стабильности может варьироваться.

Неизменяемая идентичность – это такая идентичность, которая определяется тем, где люди рождаются, и которую изменить невозможно, особенно в краткосрочной перспективе. Очевидные примеры неизменяемой идентичности: этническая и расовая принадлежности. Лица, которые идентифицируют себя с афро-американской расой будут иметь некоторую связь с афро-американской идентичностью группы всю свою жизнь. Хотя эта идентичность может иметь множество нюансов и дополнений, но она не может быть изменена на совершенно другую группу (например, азиатских). Религия может также рассматриваться как неизменяемая идентичность. Хотя, технически лица могут изменять свою религию, но это очень трудно, даже невозможно во многих частях мира и, как правило, приходится платить высокую цену, поэтому в большинстве моделей эта переменная рассматривается в качестве постоянной. Однако, постоянные идентичности не обязательно должны рассматриваться как эксклюзивные. Преобразование или смешанный брак может связать человека с более чем одной группой. Кавказская женщина с афро-американский мужем и ее дети могут приобрести сильную принадлежность к идентичности афро-американской группы, хотя она не была ее по рождению. Идентичности по происхождению дополняются, но не заменяются. Даже в случае преобразования или смешанных браков, оригинальные религиозные или этнические принадлежности человека по-прежнему влияют на поведение. Люди имеют несколько идентичностей по происхождению, хотя они часто отличаются в особенностях, как будет обсуждаться ниже.

Гибкая идентичность – это идентичность, которую люди могут менять довольно легко с относительно низкой стоимостью. Наиболее часто моделируется гибкая идентичность политико-партийной принадлежности и рода занятий. Как правило, возможно изменять политические партии или профессии, и барьеры значительно ниже, чем те, которые связаны с изменением религий. Идеология, сочетающая в себе социальную и политическую, является третьим распространённым примером гибкой идентичности: «активист-эколог», «консервативный евангелист» и «умеренный исламист» могут быть примерами. Не каждое убеждение представляет собой идентичность, (например, «сторонник грузовиков Урал», вероятно, не нужно включать в  модель, как идентичность группы в большинстве социокультурных систем), но убеждения, которые соединяют людей в больших группах с установленными нормами и которые затрагивают различные поведения, возможно, должны быть смоделированы как таковые.

Некоторые идентичности, такие, как социальный класс, возможно, необходимо рассматривать как неизменяемую идентичность в некоторых ситуациях и гибкую в других. В некоторых регионах мира, как известно, имеют место сильные классовые различия и низкая экономическая мобильность, социальный класс и даже профессия могут быть постоянной идентичностью, но они должны рассматриваться как гибкие в большей части развитого мира.

2. Доступность, Соответствие и Преобладание идентичности

Хотя каждый человек может иметь несколько идентичностей разных типов, важность этих идентичностей может радикально меняться в зависимости от обстоятельств. Понимание, когда отдельная идентичность преобладает, является одной из важнейших для моделирования. Мы будем использовать понятия Доступность и Соответствие, которые являются аспектами теории социальной категоризации Тернера [3] как способ мышления о различиях. Преобладание является продуктом параметров относительной постоянной Доступности и контекстуального Соответствия для конкретной идентичности (Преобладание = Доступность * Соответствие).

Люди имеют самоидентичности, которые являются более или менее важными в определённых обстоятельствах. Для одного человека, религия может быть более важным компонентом, а для другого, экономическая идентичность (например, «успешный бизнесмен») может быть наиболее важным. Существуют также значительные индивидуальные вариации – каждая группа включает некоторых людей с сильно выраженной этнической, религиозной, политической и экономической идентичностью.

Доступность – простота получения данной идентичности для человека, похожие на «наличие эвристического» из когнитивной психологии [4]. Идентичности, которые более знакомы и заботятся больше об эмоциональной составляющей более доступны. Например, сравнительно легко для русских получить идентичность «христианин» или «мусульманин», и в целом сложнее получить некоторые другие религиозные самобытности (например, «растафари», «суннит», «шаман»). Чем труднее получить частные идентичности, тем меньше вероятности что человек будет  классифицировать себя, либо другого к этой категории.

Некоторые идентичности более доступны, чем другие. Большинство людей имеют этнические, религиозные и профессиональные идентичности, но они не одинаково доступны. Исследования показали, что этнические, религиозные и политические идентичности имеют тенденцию быть более доступными, чем профессиональные или родственные (например, «муж» или «сын») [5].

Одним из примеров, где доступность влияет на восприятие в американском восприятии - бомбежка 9/11. Хотя 15 из 19 террористов были из Саудовской Аравии, «Саудовская Аравия» имеет низкую доступность для большинства американцев, так что очень немногие американцы заметили или вспомнили, что угонщики были из Саудовской Аравии. Однако, идентичность террориста в виде «мусульманин» и «иракский» была гораздо доступнее, и, таким образом, личности угонщиков легче воспринимаются как мусульмане (что является точной идентификацией) или как иракские (что не верно).

Соответствие – это степень, которая определяет как в конкретном контексте активируется определённая идентичность. Хотя доступность считается относительно фиксированной особенностью для любой личности, контекстуальный подход может варьироваться в широких пределах. Текущие события могут сильно взаимодействовать с особыми идентичностями. Мы видели, что в Америке после 9/11, американская идентичность для людей была более актуальной, чем их политическая идентичность, из-за «пригодности» в оценке ситуации между произошедшими событиями и национальной идентичностью.

Соответствие может также зависеть от конкретного социального контекста. Нигерийские эмигранты, живущих вне родины могут особенно осознавать свою нигерийскую идентичность, особенно в компании других нигерийцев.

Создавая событие или проводя их повторно можно попытаться изменить свойство Соответствие и, таким образом, эти изменения для некоторых идентичностей станут преобладающими. Это один из методов, используемых террористами мусульманами, чтобы вызывать сочувствие к себе в исламском мире, представляя свои действия, совершенные в отношении конкретных государств, как конфликт между мусульманами в целом и западными державами. Они пытаются создать соответствие между конкретными событиями и идентичностями, которые весьма доступны для своей аудитории: Ислам и Запад.

Анализ существующих моделей

Мы рассмотрим четыре модели, где социальная идентичность играет большую роль [6-11]. Классификация моделей представлена в таблице 1 [6]. Опишем уникальные преимущества каждой модели, и сравним, как они обращаются постоянством идентичности (приобретенные и гибкие идентичности) и преобладающими идентичностями (с компонентами доступность и соответствие). Каждая модель также ставит дополнительные теоретические вопросы, которые будут описаны в рамках каждой из них.

Таблица 1. Обзор моделей социального личность

Модель

Типы идентичностей

Источники данных

Основные характеристики

SCIRP

Гибкие: политические мнения

Обоснованно и проверено на данных атак IRA и результатах голосования в Северной Ирландии

Модель влияния использует модель ограниченного доверия. Включает в себя несколько наложенных идентичностей и использование простой социальной сети для влияния.

Salzarulo’s MetaContrast

Гибкие: социальные категории, основанные на вере

Искусственные

Иллюстрирует как поляризация и экстремизм может произойти из комбинации притяжения к внутренним группам и отталкивания от внешних

PS-I

Гибкие и по рождению: идентичности политических и культурных групп

Региональная экспертиза автора

Модель географических кластеров или «форм правлений» и распространение идентичности через население

SILAS

Гибкие и по рождению: этнические, религиозные и политические принадлежности

Данные из Афромарометра для Нигерии

Модель как внутренние конфликты между идентичностями могут быть решены; модели динамики «общего врага»

Aptima's SCIPR (симуляция культурной самобытности для прогнозирования реакции на события) является многоагентной моделью, основанной на динамике мнений [6,7]. Определённые коллекции агентов имеют множество возможных идентичностей, где каждая идентичность определяется набором убеждений. Каждый агент имеет синтетическую социальную сеть партнёров, в значительной степени определяющуюся географической близостью. Когда модель запускается, агенты влияют друг друга, для чтобы попытаться привлечь соседнего агента к своим убеждениям, и таким образом влиять на принадлежность к политической партии.

Центральное место в модели SCIPR занимает модель «ограниченного доверия». Агенты имеют убеждения, а также степени доверия, связанные с этими убеждениями. Эта доверие сильно ограничивает то, как легко они могут находиться под влиянием других агентов. Когда модель работает, агенты пытаются влиять на других агентов в своей социальной сети, но под их влияние попадают только, если 1) два агента являются демографически похожи, и 2) тема сообщения, направленное агенту, находится близко к текущим убеждениям агента получателя. Агенты с меньшей уверенностью чаще прислушиваются к агентам, начальная позиция которых отличаются от их собственной, и их более легко убеждают новые сообщения. Агенты с очень сильной степенью доверия к своим убеждениям, очень устойчивы к изменению мнения, хотя в отсутствие укрепляющих сообщений от агентов с таким же мнением, уверенность уменьшается с течением времени.

Согласно документации по модели от 2006 года, модель SCIPR была использована, чтобы попытаться воспроизвести изменения мнений жителей Северной Ирландии в «проблемных» областях, путем сравнения результатов моделирования с результатами выборов.

Модель Aptima ссылается на работы Salzarulo и использование в них ограниченного доверия.

Модель Salzarulo MetaСontrast также фокусируется на динамике изменения мнений [6]. Агенты имеют позиции на определённый вопрос, с непрерывным числом представлений своего мнения. Как и в модели SCIPR, каждый агент имеет «ограниченное доверие», которое влияет на то, кого агент будет слушать и на сколько он может изменится относительно альтернативной позиции. Убеждение в этой модели эквивалентно тому, что агент движется вдоль континуума мнений по отношению к различным убеждениям другого агента. Уникальная особенность модели является то, что она включает в себя как силы притяжения, так и отталкивания; агенты перемещаются к будущей «идентичности», или позиции определённого мнения, к которой они хотят присоединиться, а также пытаются отойти от позиции определённого мнения, которые они сами определяют как «против».

Salzarulo использует принцип «метаотличие» из теории социальной категоризации [8] для суждения о сходстве и сплочённости идентичности групп. Кластеры агентов считают, что различия между ними достаточно мало, а расстояния между ними и другими лицами в группе большие. Точнее, агенты вычисляют «в среднем» попарную разницу между всеми ними в модели и сравнивают ее со значением попарной разницы подмножеств агентов, которые образуют группу кандидатов. Группы образуются из кластеров с низким значением групповых различий в контексте различий.

После того как эти групповые формации образовались, агенты действуют так, чтобы укрепить членство в группе. Группа следит за тем, кто именно является самой центральной персоной, или прототипом этой группы, и двигается к сокращению различий между собой и их прототипом группы. В то же время агенты стремятся максимизировать разницу между собой и агентами, которые находятся за пределами группы. Это согласуется с предварительными психологическими исследования динамики идентичностей [9]: внутри группы часто консолидируют свою идентичность, пытаясь чётко дифференцировать себя от других групп, называемых внешними группами.

Модель Salzuro производит три интересных эффекта, которые могут быть особенно полезны для создателей моделей. Во-первых, она производит поляризацию мнений между группами. Поскольку агенты Salzarulo активно изменяют мнения для того, чтобы отдалиться от внешних групп в сторону центра своей группы, это может привести в результате к группам, которые группируются на краях континуума мнений, хотя это происходит не всегда. Поляризация чётко происходит в реальном мире, но часто не появляется в других моделях влияния там, где в течение долгого времени агенты становятся усреднёнными. Salzarulo обеспечивает правдоподобный механизм поляризации мнений.

Во-вторых, модель Salzuro производит эффект, когда агенты, чьи мнения являются прототипом идентичности группы, имеют очень высокую уверенность в своих мнениях. Потому что другие агенты в группе переходят к ним в качестве центральной фигуры, и никакая сила не тянет их от собственного центра, доверие к своему мнению прототипного агента увеличивается. Это опять-таки соответствует наблюдениям реального мира: руководители групп, как правило, очень уверены в своём мнение. Salzarulo не использует термин «лидера», его модель говорит лишь о большей или меньшей прототипности членов; но было бы естественным продолжением использование этих прототипных членов в качестве руководителей групп, и использовать эти механизмы для объяснения (по крайней мере частичного) высокого уровня доверия к лидерам.

В-третьих, Salzarulo вводит механизм контекста влияния на идентичность. Исследования Salzuro показывают, что формирование и дифференциация групп в MetaContrast модели сильно зависит от профиля агентов в исходных данных модели, то есть социальный контекст. Исследования Salzarulo's не делают следующий шаг изменения контекста в рамках работающей модели, но можно легко представить себе изменения контекста, в рамках больших моделей и наблюдений в результате воздействия на личность. Это могло бы модели укрепить идентичность в контексте, где идентичность в меньшинстве, например предыдущий пример нигерийского эмиграции в контексте другой страны и чувство укрепления национальной идентичности.

Работы Salzarulo является чистой теорией моделирования, поэтому не были (насколько нам известно) основаны или сверялись на реальных данных.

Модель Lustick PS-I также сфокусирована на политических взглядах и убеждениях, и особенно сосредоточена на региональном отражении политик в идентичности групп. Модель PS-I использовалась автором (эксперт по Ближнему Востоку) в несколько примерах. Например использование в Lustick [10] вымышленной страны называемой «Ближневосточной Политией» (БП). БП представляет собой прямоугольную сетку заполняемой 2260 агентами. Каждый агент представляет совокупность населения, но ведёт себя аналогично физическим лицам в других моделях. Есть 19 идентичностей, присутствующих в модели, которые соперничают за влияние внутри и между агентами. В основном это политические идентичности, но и включаются также элементы религиозных, этнических и экономических идентичностей. Три примера: «фундаменталистский ислам» (религиозно-политическое), этнические курды (этническое), а также модернизированный Ислам (религиозно-политическое). Каждый агент имеет репертуар из 2-6 «идентичностей», которым он располагает. Только одна идентичность «активна» во времени, но другие могут поддерживать более низкие уровни активации, которые важны для модели. Географическая группа агентов с одними и теми же активированными идентичностями называется «государство».

Схема и начальные уровни активации идентичностей определяет как PS-I манипулирует доступностью. Модель также включает в себя соответствие контекстуальным событиям. Запущенная модель включает разрушительные, краткосрочные события, возникающие вне модели, например, террористический акт в соседней стране. Влияние этих внешних событий определяет существующий порядок активаций, модерируя таблицами «смещения» специфичные для типов события. Эти таблицы смещения означают «соответствие» для модели PS-I. Когда модель работает, агенты влияют на своих соседей и политика распространяется, сокращается, или исчезает через ландшафт страны. Как и в других политических моделях влияния, сходства между агентами определяет силу влияния. Модель Lustick также включает в себя «личности» разнообразных агентов, которые важны для динамики влияния, но не будет описан здесь.

PS-I был использован для исследования изменчивости и общие закономерности идентичностей через моделирование таких странах, как «ближневосточной Государство», а также достигла определенного успеха проверки в отношении исторических данных. Координационным центром исследования предсказывали режима нестабильности. Другие примечательные сильные стороны этой модели являются ее способность сочетать типы разных идентичностей, и возможность моделирования крупномасштабных географических положений.

SILAS (моделирование будущих социальных идентичностей), находится в разработке авторами при Университете Джонса Хопкинса, лаборатория прикладной физики. SILAS фокусируется на личностной основе конфликтов. Он пытается предсказать, как люди с несколькими идентичностями будет устанавливать связи в конфликтах, который может привести в действие более чем одна из их групп идентичности.

Модель включает в себя два уровня: отдельных агентов (людей), и абстрактные группы идентичностей. Каждый агент по образцу одного респондента Афробарометра 2001 года. Каждый агент имеет также искусственную социальную сеть с другими агентами на основе предположения об уровнях межэтнических и кросс-религиозной принадлежностей в нигерийском обществе (данные не были доступны для этого).

Идентичности смоделированы как объекты, которые отделены от агентов, но связаны с отдельными агентами по ссылкам «принадлежности». Идентичности расположены в отдельных иерархиях по трем типам: этническая, религиозная и политическая идентичность. Группы имеют сходные взаимоотношения друг с другом, как внутри, так и между иерархиями, которые определяются данными, полученными из Афробарометра за 2001 год. Так, например, была создана связь между группой этнической идентичности «хауса» и мусульманской религией, соответствующая проценту респондентов хауса Афробарометра, которые были мусульманами. (Это асимметричная сеть; количество мусульманских «хауса» соответствует проценту мусульман, которые являются «хауса».)

Каждый в этой модели был связан с несколькими группами идентичностей, как правило, была одна этническая, одна религиозная, и одна политическая принадлежности. По умолчанию, вес (доступности) каждой принадлежности (связь) был установлен в 1, чтобы указать членство в группе. Использованы данные Афробарометра о режиме наибольшего благоприятствования определённой идентичности. Увеличение веса ссылки до 2 поставлен в зависимость от ответ респондента (напомним, что каждый человек в модели основан на фактических респондентах Афробарометра). Эти веса ссылок к определённой принадлежности в модели SILAS являются доступностью идентичности.

Запуск модели SILAS начинается с конфликта между любыми двумя группами идентичности. (Например, мусульманские против христианских; «Игбо» против «Лджаф»; или «Игбо» против мусульманских). Группы не должны быть того же типа. Две группы в конфликте имеют позитивные настроения о себе и негативные настроения об их противнике. Эти настроения распространяются через абстрактную идентичность модели по схожим ссылкам. Сила подобной ссылки была использована в качестве коэффициента силы настроения. Настроение, как положительное, так и отрицательное, распространяется между идентичностями и далее вниз до физических лиц. Распространение активации ограничено для минимизации обратной связи между идентичностями. Когда модель завершается много людей (агентов), получили положительные и отрицательные настроения об идентичностях, вовлечённых в конфликт. Некоторые из них получили по отдельным каналам оба настроения, и они будут измерять вес каждого, чтобы определить, где они стоят в конфликте. Некоторые агенты не получили никаких сообщений настроения, или равное количество положительные и отрицательные настроений, и так и будут оставаться нейтральными. Временное сообщение настроения с различным уровнем активации определяет как SILAS представляет ситуационные соответствия.

Есть две примечательные особенности SILAS. Во-первых, SILAS может предсказать мнение противоречащих лиц, т.е. те, которые имеют противоположные ссылки идентичности (прямые или косвенные) в конфликте, как описано выше. Исследование с целью оценки использования SILAS для предсказания принадлежности к политической партии на основании ссылок идентичностей человека. Модель была построена с использованием известных совместных членств, а затем запущена на том же наборе данных с удалёнными ссылками политической принадлежности. Конфликтным событием было моделирование выборов между тремя основными политическими партиями в Нигерии во время обследования 2001 года Афробарометра. Модель SILAS правильно предсказала 72% известных связей партии. В сравнение с более традиционным регрессионным анализом, который предсказал 76%.

Второй отличительной чертой SILAS является воспроизведение эффекта «Единства в борьбе с общим врагом». Иерархическая организация идентичностей позволяет сделать вывод за пределы группы, например, модель знает, что лицо, идентифицирующих себя как баптист был христианином. В конфликте между католической группой и группой мусульман, баптист получит сильное сообщение чувство от католической группы, нежели мусульманской группы из-за общей с христианской идентичностью. Динамика объединения против общего врага хорошо документирована в реальном мире, но предыдущие модели не обязательно воспроизводили это, или произвести его только в качестве побочного продукта других видов подобия.

Но пока ещё не найдено данных, которые могут быть использованы для тестирования действия эффектов «общего врага». Также стремимся расширить модель SILAS воспроизвести эффект «соперничество между детьми» следствия. Соперничество между детьми является эффект, когда, в отсутствии общего врага, группы сверстников в иерархии может быть особенно склонны к конфликтам. Это может быть полезно в конфликтах «горизонтального неравенства» между моделирования групп сверстников, которые как утверждает Стюарт [11], являются одним из наиболее распространённых типов конфликтов в странах третьего мира.

Заключение

Рассмотренные выше модели, исследуя свойства идентичности, фокусируются на структурных характеристиках внутри и межгрупповых отношений. Однако, при этом в них не уделяется внимания, одной из базовых характеристик группы - ее потребностям. Введение этой переменной  расширяет аналитическую рамку и выводит нас за пределы самих групп - на уровень отношений с внегрупповым пространством. Как член большой социальной группы, человек познает (и оценивает) окружающий мир - как социальный, так и физический. И критерии этой оценки тесно связаны с такими понятиями как «потребности» и «ценности». Групповые потребности представляют собой отражение условий жизни, ведущей деятельности и особенностей общения большой группы людей. А ценности - материальные предметы или идеи, на которые направлены потребности человека. Как и потребности, ценности, конечно, могут быть материальными и духовными, личными и общественными, приоритетными и второстепенными. И именно они - приоритетные общие потребности людей, составляющих данную большую социальную группу - составляют основу социально-групповой психологии, так или иначе влияющую на все другие ее стороны и проявления. Иначе говоря, одним из базовых измерений, в рамках которых надлежит рассматривать динамические процессы в больших группах, является система их потребностей и ресурсов, являющихся приоритетными и важными с точки зрения идентификации членов этих групп. Особенно если речь идёт о конфликтном взаимодействии.

Резюмируя все вышесказанное, в контексте возможностей моделирования террористической активности,  становится очевидной необходимость введения, во-первых, темы потребностей и ресурсов, а, во-вторых, важность выделения ее символического аспекта, проявленного в постсовременной социальности необыкновенно ярко и многопланово.

Список литературы

1. Свечкарев В.П., Тымчук Д.А. Многоагентное моделирование критических социальных поведений // Инженерный вестник Дона, 2010. №1. http://www.ivdon.ru/magazine/ latest/n1e2010/175/(доступ свободный).
2. Тымчук Д.А. Исследование механизмов социальных взаимодействий с использованием многоагентного моделирования // Инженерный вестник Дона, 2010. №3. http://www.ivdon.ru/magazine/latest/n3y2010/218/(доступ свободный).
3. Turner, J. C., Hogg, M. A., Oakes, P. J., Reicher, S. D., & Wetherell, M. S. (1987). Rediscovering the social group: A self-categorization theory Oxford: Basil Blackwell.
4. Tversky, A., & Kahneman, D. (1973). Availability - heuristic for judging frequency and probability. Cognitive Psychology, 5(2), 207-232. 
5. Deaux, K., Reid, A., Mizrahi, K., & Ethier, K. A. (1995). Parameters of social identity. Journal of Personality & Social Psychology, 68(2), 280-291.
6. Kopecky, J., Bos, N., Greenberg, A. Social identity modeling: past work and relevant issues for socio-cultural modeling/ Proceedings of the 19th Conference on Behavior Representation in Modeling and Simulation, Charleston, SC, 21-24 March 2010, p. 203-210.
7. Grier, R. A., Skarin, B., Lubyansky, A., & Wolpert, L. (2008). SCIPR: A computational model to simulate cultural identities for predicting reactions to events. Proceedings of the Second International Conference on Computational Cultural Dynamics,
8. Haslam, S. A., & Turner, J. C. (1992). Context- dependent variation in social stereotyping 2: The relationship between frame of reference, self-categorization and accentuation. European Journal of Social Psychology, 22(3), 251-277.
9. Tajfel, H. and Turner, J. C. (1986). The social identity theory of inter-group behavior. In S. Worchel and L. W. Austin (eds.), Psychology of Intergroup Relations. Chicago: Nelson-Hall
10. Lustick, I. S. (2002). PS-I: A user-friendly agent-based modeling platform for testing theories of political identity and political stability. Journal of Artificial Societies and Social Simulations, 5(3) Retrieved from: http://jasss.soc.surrey.ac.uk/5/3/7.html
11. Stewart, F. (2000).  Crisis prevention: Tackling horizontal inequalities.  Oxford Development Studies, 28(3), 245-262.