一、需求
類別:分布式、多平臺爬蟲系統(tǒng)開發(fā)
進度:現(xiàn)有需求已經清楚,需要系統(tǒng)的架構設計、核心模塊開發(fā)
功能:能夠解決封賬號、封IP采集等問題,解決網頁抓取、信息抽取等問題;可以解決驗證碼問題;可以解決部分知名網站的反爬問題;
技術:JAVA/GO/Python
二、人才要求
有分布式爬蟲系統(tǒng)架構設計經驗,能解決絕大多數(shù)知名網站的反爬問題
三、合作方式
前期充分溝通需求、技術方案,確定適合的架構和核心模塊的開發(fā)工作量,確定合理的開發(fā)周期。定期線下交付溝通、多數(shù)遠程開發(fā)。