想让孩子远离网络伤害？这个AI线上保姆可以为他们撑起“保护伞”

当未成年人（特别是儿童）使用手机或电脑上网时，父母们或许没有意识到他们的孩子可能会遭遇网络伤害。

给孩子们一台电子设备，他们每天能发送数百条消息，机器人维修，访问数十个应用程序，并通过游戏的聊天功能与更多的人互动。在使用手机的一天中，他们可能会与数百甚至数千人进行过互动。使用手机所产生的巨大数据量，显然早已超出了家长的搜索能力。

如果错过了孩子向陌生人发送地址的短信或评论，父母该怎么办呢？

幸运的是，AI非常擅长查看数据。MattPhillips博士研发的SocialJudo是一个基于AI、并专为家长设计的类似GoogleAnalytics（分析）的程序，它使用专有软件与IBM出色的Watson平台相结合。它不仅提供实时观察报告，而且能不断更新以探测到新危险。

SocialJudo

该应用程序监测的主要危险因素包括脏话、色情短信、裸体、色情描写、激进言论等。如果它发现这些问题，就会立即通知家长，这样他们就可以直接从这里检查内容。

有很多监测类的程序都是免费的（SocialJudo需要订阅），但是很少软件使用AI来完成任务。

MattPhillips在接受采访时说：大部分父母无法跟上孩子的步伐，快速学习流行语或使用流行的App，他们都没有充足的时间仔细研究这些内容。

即便父母留心关注，工业机器人维修，KUKA机器人维修，也有可能会长期忽视孩子接收的讯息。

有一名叫MichelleCarter的女孩曾在两年半的时间里，持续向男友发送短信说服其自杀。最终在2014年，18岁的ConradRoyIII（她的男友）自杀身亡。

那些读起来令人无法忍受的短信推动了Roy的自杀。此前CNN报道，该案件的起诉人KatieRayburn说：在他的短信回复里，他一直在向她道歉为自己还没死而道歉。

最糟糕的是，Carter和Roy并不是那种你可以在人群中一眼就能辨认出的坏孩子或最危险的孩子。纵然不是所有孩子都会遇到这样的极端事件，但是大部分孩子都遭遇过不同程度的网络伤害。

现在，苹果和安卓手机的应用商店推出的程序，可以帮助隐藏图片和文字。很多软件设计的初衷就是让陌生人能私密交流。

即便家长是谷歌的首席开发人员，都不能确定他们能够绝对弄清楚孩子们用设备做了什么。

Phillips希望SocialJudo和其他AI驱动的程序，将为孩子创造出更安全的世界。如果能保护孩子免于受伤，那么这一切都是值得的。他说。