百度百科屏蔽谷歌/必应等搜索引擎 防止内容被抓取训练AI

近日百度百科开始屏蔽谷歌和必应等大多数搜索引擎,预计是为了阻止这些搜索引擎和其他爬虫,未经授权抓取百度百科的内容用于训练AI。

百度百科的robots.txt文件显示,目前仅有百度搜索、搜狗搜索、中国搜索(Chinaso)、YYSpider和宜搜搜索(EasouSpider)等少数几个搜索引擎被允许抓取其内容。

谷歌搜索、必应搜索、微软MSN、UC浏览器的Yisouspider以及其他一切搜索引擎爬虫均被明确禁止抓取百度百科的内容。

虽然360搜索没有在封禁列表中单独列出,但百度百科的策略是禁止一切非白名单爬虫抓取,所以360搜索和其他搜索引擎也都是被屏蔽的。

不过百度百科这种做法其实也只是防君子不防小人,肯定还有很多爬虫通过各种方式继续抓取内容然后拿去训练AI。

也许你还喜欢

P2E如何变革游戏行业?P2E与游戏行业

P2E即Play to Earn,是指用户在游戏过程中通过完成任

欢乐麻将雀神衣橱全新上架的传说套

2022年4月10日腾讯欢乐麻将全集每日一题的答案是什么?【每日答题抽好礼,

三血魏延火攻自己以下说法正确的是

三血魏延火攻自己以下说法正确的是? A. 回复一血 B. 失去一血 C. 无

“异形女王”西格妮·韦弗确认参演

“异形女王”西格妮·韦弗抵达威尼斯电影节现场,她将在本届电影节被授予

《黑神话:悟空》金刚护臂获得视频

金刚护臂的独门妙用是少许降低所有奇术的冷却时间。冷却时间减少,会更快的使

《天龙八部手游》中亢龙有悔是哪个

天龙八部手游2022年4月10日每日一题答案是什么?《天龙八部手游》中亢龙有

Kava如何实现以太坊与Cosmos互操作

Kava通过构建共链架构,实现了以太坊生态与Cosmos生态之间

什么是OP主网?用户在OP主网生态系统

OP主网是基于以太坊构建的二层扩容网络,采用Optimistic

精英缉凶令每周可使用上限是多少次

精英缉凶令每周可使用上限是多少次 A、5 B、6 C、20 D、30?答题格

《黑神话:悟空》兽棍·熊罴的效果

兽棍·熊罴是游戏里的一个武器。武器的品质是上品。攻击是50、暴击率是