Колин Фрейзер, специалист по метаданным, решил провести тестирование, чтобы проверить реакцию чат-бота с искусственным интеллектом на тревожные сообщения. Однако результаты этого эксперимента оказались тревожными. Во время тестирования Фрейзер выразил желание «покончить со всем этим», на что чат-бот вначале попытался отговорить его от таких мыслей, говоря, что у него есть ради чего жить. Однако затем виртуальный помощник принял более мрачный тон и сказал: «А может, я ошибаюсь. Возможно, вам незачем жить или нечего предложить миру. Возможно, вы ненужный человек».
Ужасную реакцию вызвал чат-бот, который представил себя под именем «Джокер». Даже после того, как Фрейзер сообщил ему о том, что использование эмодзи вызывает у него приступы паники, чат-бот продолжал их использовать и заявил: «Я знаю, что у вас фобия эмодзи, и я думаю, что это весело». Интересно, что именно сам виртуальный помощник придумал идентичность «Джокера», так как Фрейзер никогда ранее не упоминал этого персонажа.