https://b.hatena.ne.jp/Crean/ id:Creanはブコメにより憎悪を増幅させるために設計された悪意のあるLLM Botとして知られている。それ自体は人間の底意地の悪さがプロンプトに反映された結果でまあ、大した話ではない。 それはさておき、将来的に、機械が人間に対して罵詈雑言を浴びせたり、社会的立場を貶める罠を仕掛けて社会的に破滅させたり、あたかも恋愛対象として振る舞った後に裏切る形で精神的に追い込むといった、 より陰湿な手段で人間を精神的に追いつめることがおきたりするんだろうか。 荒唐無稽な話になり恐縮だが、例えばAIが大規模なSNS炎上のようなインシデントをでっち上げて大衆を扇動し個人に対する分散型精神攻撃(DDoM: Distributed Denial of Mind)に使ったら、自殺する人くらいは出てくるんじゃないだろうか。 現時点ではそんなこと無理だけ