Scrumy、笹埜健斗がChatGPTを活用したネット上の誹謗中傷対策システムを発明

Scrumy(スクラミー)は25日、同社代表取締役の笹埜健斗氏が、生成AI技術を活用して、SNSをはじめとしたネット上の誹謗中傷発言を検知・非表示にする誹謗中傷対策システムの開発に成功し、特許を出願したことを発表した。

SNSやオンラインツールは、人々の日々のコミュニケーションに不可欠な役割を担っている。ただ、近年はこうしたオンライン空間を通じた誹謗中傷発言が深刻な問題になっている。このような環境の元、AI技術を駆使して、安全なオンライン空間の確保に貢献するべく、ChatGPT(GPT-4)を用いた誹謗中傷への対策システムを開発した。本システムは、オンラインでの誹謗中傷発言をリアルタイムで検出し、即座に対処することを目的としている。その結果、オンライン空間でのユーザー体験を向上させ、コミュニティ全体の健全性を保つことを目指しているという。

本システムの特徴
今回開発に成功した誹謗中傷対策システムは、以下の4つの特徴を持っている。
①高度な自然言語処理能力:ChatGPTの最新AIモデルを用いて、日本語の微妙なニュアンスまで理解し、誹謗中傷を高精度で検出。
②文脈に合わせたフィルタリング:日本語独自の表現や俗語にも対応し、適切なコンテキストでの分析が可能。
③リアルタイム対応:オンライン上の会話をリアルタイムで監視し、問題のある内容を即座に識別。
④進化するアルゴリズム:ユーザーのフィードバックを組み込んで自己学習し、誹謗中傷検出アルゴリズムは継続的に改善される。

本システムの期待効果
本システムの普及や改善を通じて、オンライン上での誹謗中傷の数が削減されることで、ユーザーにとっては精神的な安全が確保され、コミュニケーション活動が活性化し、生産的な対話が促進されることを期待している。また、企業や団体においても、本システムを導入することで、自社のブランド価値を守ると共に、コミュニティ活動が活発になることを期待している。

本システムの学術発表に関して
2023年11月25日、26日の両日、慶應義塾大学湘南藤沢キャンパス(SFC)にて開催される「SFC EXPO 万学博覧会」の慶應SFC学会 第22回学術交流大会にて、本システムの発表を行った。

「SFC EXPO 万学博覧会」

関連URL

Scrumy

関連記事

注目記事

  1. 2024-3-1

    鹿島、画像AIを用いて技能者の人数と作業時間を自動で把握するシステムを開発

    鹿島は2月29日、画像AIと独自の解析アルゴリズムを用いて、指定した作業エリア内における技能者の人数…
  2. 2024-3-1

    ユニフィニティー、AIおまかせ設定でモバイルアプリを自動生成する新機能を無料提供

    ユニフィニティーは2月29日、ノーコード・業務用モバイルアプリ作成の無料ツール「Unifinity …
  3. 2024-2-23

    オルツ、2030年までにAIクローン5000万人創出を目指し現行業務のAI移行を加速

    P.A.I.(パーソナル人工知能)をはじめ、AIクローン技術でつくり出すパーソナルAIの開発および実…
  4. 2024-2-23

    ジョリーグッド、医療DXの二大課題を解決する「ひらけ、医療。」VR活用推進キャンペーン

    ジョリーグッドは、「ひらけ、医療。」プロジェクトの一環として、医療DXにおける二大課題を解決する「ひ…
  5. 2024-2-23

    産業用AIロボット研究開発のCoLab、独自の自律制御ロボット製品「AI Servo Robot System」リリース

    過酷な単純作業を自動化しサプライチェーンの変革を目指し、産業用AIロボットの開発・販売を行うCoLa…

カテゴリー

最近の投稿

ページ上部へ戻る