Scrumy、笹埜健斗がChatGPTを活用したネット上の誹謗中傷対策システムを発明

Scrumy(スクラミー)は25日、同社代表取締役の笹埜健斗氏が、生成AI技術を活用して、SNSをはじめとしたネット上の誹謗中傷発言を検知・非表示にする誹謗中傷対策システムの開発に成功し、特許を出願したことを発表した。

SNSやオンラインツールは、人々の日々のコミュニケーションに不可欠な役割を担っている。ただ、近年はこうしたオンライン空間を通じた誹謗中傷発言が深刻な問題になっている。このような環境の元、AI技術を駆使して、安全なオンライン空間の確保に貢献するべく、ChatGPT(GPT-4)を用いた誹謗中傷への対策システムを開発した。本システムは、オンラインでの誹謗中傷発言をリアルタイムで検出し、即座に対処することを目的としている。その結果、オンライン空間でのユーザー体験を向上させ、コミュニティ全体の健全性を保つことを目指しているという。

本システムの特徴
今回開発に成功した誹謗中傷対策システムは、以下の4つの特徴を持っている。
①高度な自然言語処理能力:ChatGPTの最新AIモデルを用いて、日本語の微妙なニュアンスまで理解し、誹謗中傷を高精度で検出。
②文脈に合わせたフィルタリング:日本語独自の表現や俗語にも対応し、適切なコンテキストでの分析が可能。
③リアルタイム対応:オンライン上の会話をリアルタイムで監視し、問題のある内容を即座に識別。
④進化するアルゴリズム:ユーザーのフィードバックを組み込んで自己学習し、誹謗中傷検出アルゴリズムは継続的に改善される。

本システムの期待効果
本システムの普及や改善を通じて、オンライン上での誹謗中傷の数が削減されることで、ユーザーにとっては精神的な安全が確保され、コミュニケーション活動が活性化し、生産的な対話が促進されることを期待している。また、企業や団体においても、本システムを導入することで、自社のブランド価値を守ると共に、コミュニティ活動が活発になることを期待している。

本システムの学術発表に関して
2023年11月25日、26日の両日、慶應義塾大学湘南藤沢キャンパス(SFC)にて開催される「SFC EXPO 万学博覧会」の慶應SFC学会 第22回学術交流大会にて、本システムの発表を行った。

「SFC EXPO 万学博覧会」

関連URL

Scrumy

関連記事

注目記事

  1. 2024-7-19

    人機一体、直感的な操作システム搭載人型重機が JR西日本の鉄道設備メンテナンスに導入

    人機一体は17日、同社のロボット工学技術が搭載された初めての製品となる「多機能鉄道重機」が、7 月か…
  2. 2024-7-17

    順天堂大学、AIを用いた脳容積解析ソフトウェアを開発

    順天堂は16日、順天堂大学保健医療学部診療放射線学科の後藤政実 先任准教授、京極伸介 教授、代田浩之…
  3. 2024-7-12

    生成AIによるオススメフォントのアドバイスサービス「DynaGPT」リリース記念キャンペーン

    主に文字フォント開発、およびその関連製品の開発・販売・保守を行う、ダイナコムウェアは、生成AIによる…
  4. 2024-7-6

    WITCRAFT、生成AIを活用した動画サービスDO/AI(ドゥ・エーアイ)を提供開始

    WITCRAFTは2日、生成AIを活用した動画サービスDO/AI(ドゥ・エーアイ)を提供開始した。 …
  5. 2024-7-3

    AI英語アプリ「マグナとふしぎの少女」、GIGAスクール端末向けにアップデート

    昨年夏、学校内で流行りすぎて公開停止となったミントフラッグの英語学習アプリ「マグナとふしぎの少女」は…

カテゴリー

最近の投稿

ページ上部へ戻る