跳到主要内容

社交平台安全

2023


确保元宇宙中的信任:Hike的Vibe平台基于人工智能的恶意举报检测系统

作为Hike Limited机器学习团队的负责人,我主导开发了一个复杂的人工智能系统,用于检测和缓解Vibe元宇宙中的恶意举报。这个项目对于维护一个安全、可信的环境,让用户在虚拟空间中互动和连接至关重要。

项目概述 #

目标是创建一个智能系统,能够准确识别和处理用户在Vibe虚拟房间内提出的虚假或恶意举报。该系统需要区分合法关切和滥用举报功能的企图,确保为所有用户提供一个公平和安全的环境。

技术方法 #

核心技术 #

  • 使用Python进行算法开发和数据处理
  • 修改后的PageRank算法用于信任评分
  • BigQuery用于数据存储和分析
  • Airflow用于工作流编排
  • TensorFlow用于开发预测模型

关键组件 #

  1. 信任评分系统:开发了一个修改版的PageRank算法,根据用户的互动和举报历史分配信任分数。