Sentropy筹集了1300万美元用于开发用于检测在线滥用的人工智能工具

Sentropy是一家开发平台不可知的工具以检测在线滥用的初创企业，如今已经悄悄崛起，获得了1300万美元的风险投资。它的产品旨在解决社交媒体平台上缺乏监督的问题，在该平台上，内容主持人仅审查了每天举报的数百万个滥用示例中的一小部分。

Sentropy包括苹果，微软和Lattice的前员工，以及Palantir的前战略和运营主管。该公司的许多创始人共同努力，完成了苹果收购目标Lattice Data的工作，该目标通过Memex计划与美国国防高级研究计划局(DARPA)合作打击人口贩运。作为工作的一部分，他们查看了来自Craigslist，Backpage和深色Web论坛等来源的信号，例如与贩运相关的语言，这激发了Sentropy的解决方案。

这是一个及时的发射。根据皮尤研究中心(Pew Research Center)的数据，十分之四的美国人亲自经历了某种形式的在线骚扰。而且，有37%的美国互联网用户表示，基于他们的性取向，宗教，种族，族裔，性别认同或残疾，他们已成为严重攻击的目标，包括性骚扰和跟踪。

Sentropy的旗舰产品自去年6月以来一直处于私人Beta测试中，它为API提供了访问分类技术的途径，并提出了解决骚扰的建议。Sentropy Defend(基于浏览器的界面)支持端到端的审核工作流，而Sentropy Detect提供工具来识别滥用形式，发现行为趋势并做出审核决定。

Defend和Detect均带有直观的工作流程工具和根据社区规范调整的“不断发展”的检测模型。该平台监视网络中的新行为，并适应个人社区准则和规范，以减少滥用并促进更深入的参与。

简短地说，Sentropy说它可以基于共享的身份或从属关系，包括性别，种族，国籍，性取向，宗教，政府，国家或政治团体，识别针对人的攻击，威胁或仇恨。该平台着眼于非人道化的言语和其他粗俗，轻蔑或厌恶的表达，以及暴力和排斥的呼吁，旨在发现：

侮辱指的是一个人的身体特征(包括种族，性别，外表)，智力，个性或行为。

身体暴力的威胁-例如，表达对人或一群人的身体伤害(包括暴力性行为)的愿望，主张一个人或一个人的死亡，或鼓励另一个人遭受自残或暴力。

自我伤害，例如提到要通过切割，燃烧或其他危险行为故意伤害自己的身体;威胁自杀或传达自杀念头;或就如何进行自我伤害或自杀提供建议。

性侵害，是指针对人的淫秽，图形，性语言，例如有害的性行为的威胁。

白人至上主义者寻求复兴和实施以下意识形态，例如白人种族优势，白人文化至上和怀旧，白人民族主义，优生学，西方传统性别角色，种族主义，同性恋恐惧症，仇外心理，反犹太主义，否认大屠杀，犹太阴谋论以及对赞美主义的赞美阿道夫·希特勒。

值得注意的是，半自动调节仍然是一个尚未解决的挑战。去年，研究人员表明，由Google及其子公司Jigsaw开发的工具Perceive经常将以非裔美国人语言撰写的在线评论归为有毒。另一项研究表明，不良的语法和笨拙的拼写(例如“ Ihateyou love”而不是“ I仇恨你”)使AI和机器检测器更难以发现有毒成分。

甚至在滥用检测领域中公认的领导者也对其方法提出了批评。Facebook声称自己现在可以在其平台上主动发现88.8%的仇恨言论，这是纽约大学斯特恩商业与人权中心严厉报告的主题，该报告估计该公司每天犯约300,000个仲裁错误。

但总部位于帕洛阿尔托的Sentropy声称，已通过“嵌入式偏差缓解”和“深度偏差”研究采取了措施，以最小化其系统中的任何潜在偏差。

Sentropy发言人通过电子邮件告诉VentureBeat：“在数字社区中花费时间，最引人注目的一件事是语言随着时间的变化和发展的迅速速度。”“机器学习辅助[社区]检测全新的语言信号-所有这些[它们]可以更好地保护最容易受到虐待的人。”

亚历克西斯·奥哈尼安(Alexis Ohanian)和加里·谭(Garry Tan)的Initialized Capital在第一轮融资中贡献了很大的支持。其他投资者包括金河资本;视野;全球游乐场来自Riot Games，Nextdoor，Twitch，OpenAI和Twitter的创始人和领导者;和前国家元首。