「ユーモアから誘発されるおかしみの感情」や「モラルの基準に照らした正義感」を人工知能(AI)に理解させること、また逆に、人間にそのような感情を覚えさせる文章等のコンテンツを自動で生成させることは、人間と親和性が高いAI構築への大きな一歩である。ユーモアは人間の生活を豊かにするものであるが、中には道徳性が欠如しているために人々を楽しませることができないジョークもある。容姿をブタ扱いする「ユーモア」が社会の注目を集める現代社会において、SNSの浸透を背景にしたモラルに反する投稿を原因として、自殺やうつなどに陥る深刻な事件・事故が後を絶たない。モラルを担保し、それでいて面白いユーモアに対する潜在的需要があるといえる。
本論文では、「モラルのあるジョーク生成」のため、道徳的な基準に基づいてユーモアを選択可能なメカニズムを提案する。まず、候補となるジョークの生成を行う。具体的には、膨大なWeb上のテキストから構築されたN-gramコーパスを用い、ジョークになりうる統計量をベースにした、様々なテンプレートパターンを用いてジョーク候補の生成を行う。ここで、他人が何を考え、何を感じているかを推論し、その推論に基づいて特定の状況下で相手が何を行うかを類推する「心の理論」を考慮したテンプレートパターンも用いている。次に、生成されたジョークの選択を行う。具体的には、リカレント・ニューラル・ネットワークの一つであるLong-Short Term Memory (LSTM)に対して、モラル価が付与された35,000個のツイッターから構成されるMoral Foundations Twitter Corpusを学習させることにより、ジョークの選択に利用する。
Best-Worst Scalingから得られた実験結果は、この方式が道徳的なカテゴリーラベルを持つジョークを生成できることを示した。我々の研究で「モラル的に良い」とされている忠誠(Loyalty)と権威(Authority)に分類された分類器に関するジョークは、公正(Fairness)、清純(Purity)、損害(Harm)、不正(Cheating)、堕落(Degradation)に関するジョークよりも優位に面白いことが確認された。