精品二区视频_都市激情久久_亚洲精品免费视频_亚洲精品456

央廣網

“爬蟲”如何搶低價票?借助超鏈接信息抓取網頁

2017-12-27 07:39:00來源:科技日報

  你的低價機票 被“蟲子”吃了

  不到兩個月,2018年春節要來了。

  “今年我得早下手,搶張回家的低價機票!痹诒本┐蚬さ男⊥鯇萍既請笥浾哒f,由于老家在云南,春節機票太貴,他都選擇坐兩天兩夜的火車回去,長途跋涉,苦不堪言。

  然而,就在小王摩拳擦掌,準備使出“洪荒之力”搶張便宜機票時,看到網上曝出這樣一則消息:航空公司放出的低價機票,80%以上被票務公司的“爬蟲”搶走,普通用戶很少能買到。

  小王傻眼了,“爬蟲”究竟是什么鬼?它又是怎么搶機票的?難道就沒有辦法治理嗎?

  借助超鏈接信息抓取網頁

  “‘爬蟲’技術是實現網頁信息采集的關鍵技術之一,通俗來說,‘爬蟲’就是一段用來批量、自動化采集網站數據的程序,幾乎不需要人工干預!北本├砉ご髮W網絡科學與技術研究院副教授閆懷志告訴科技日報記者。

  閆懷志介紹,“爬蟲”又稱網頁“蜘蛛”、網絡機器人,它是一種按照一定規則自動抓取網頁信息的程序或者腳本,通常駐留在服務器上。在Web網頁中,既包含可供用戶閱讀的文字、圖片等信息,還包含一些超鏈接信息。網絡“爬蟲”正是借助這些超鏈接信息來不斷抓取網絡上的其他網頁。

  “這種信息采集過程很像一個爬蟲或蜘蛛在網絡上漫游,網絡‘爬蟲’或網頁‘蜘蛛’因此得名。”閆懷志說,“爬蟲”最早應用在搜索引擎領域,比如谷歌、百度、搜狗等搜索引擎工具每天需要抓取互聯網上數百億的網頁,它們需要借助龐大的“爬蟲”集群來實現搜索功能。

  當前,“爬蟲”已被廣泛用于電子商務、互聯網金融等諸多領域。比如,“爬蟲”可以抓取航空公司官網的機票價格,發現低價或緊俏機票后,“爬蟲”可以利用虛假客源的真實身份信息實現搶先預訂。再有,很多互聯網瀏覽器都推出了自己的搶票插件,以高訂票成功率來推廣瀏覽器。

  根據抓取任務和目標的不同,網絡“爬蟲”可大致分為批量型、增量型和垂直型。批量型“爬蟲”的抓取范圍和目標較為明確,可以是網頁的設定數量,也可以是消耗時間的設定。增量型“爬蟲”主要用于持續抓取更新的網頁,以適應網頁的不斷變化。垂直型“爬蟲”主要是用于特定主題內容或特定行業的網頁。

  “爬蟲”究竟是如何搶票的

  此前,在線票務服務公司攜程的“反爬蟲”專家在技術分享中透露,某網站的一個頁面,每分鐘的瀏覽量是1.2萬,真實用戶只有500個,“爬蟲”流量占比為95.8%。

  采訪中,很多業內人士也表示,即使在“爬蟲”活動的淡季,虛假流量也占到訂票網站總流量的50%,高峰期更是在90%以上。

  那么,“爬蟲”究竟是如何實現搶票的呢?對此,閆懷志解釋,主要是機票代理公司利用“爬蟲”技術,不斷抓取航空公司售票官網網頁信息,如果發現該航空公司有低價票放出,“爬蟲”即刻利用虛假客源身份進行批量預定但不實際支付,以達到搶占低價票源的目的。由于“爬蟲”的效率遠遠超過正常的手動操作,導致通過正常操作幾乎無法搶到票。

  隨后,機票代理公司會通過其自身銷售渠道(包括公司網站、在線旅行社、客戶電話訂購等)找到真正的客源,在航空公司允許的賬期內,退訂此前使用虛假客源身份預定的低價票,然后使用真實身份信息進行訂購,最后實現該低價票的加價轉售。

  如果未在航空公司規定的賬期內找到真正客源,機票代理公司會在訂單失效前再追加虛假身份訂單,繼續“霸占”該低價票,如此反復,直至找到真正客源售出為止。

  “上面的操作流程就構成了完整的機票銷售鏈條。在這個過程中,航空公司售票系統允許在賬期內反復訂、退票的規定為機票代理公司利用‘爬蟲’搶票并加價獲利提供便利。這種搶票方式,被稱為技術‘黃牛’!遍Z懷志強調。

  的確,有業內人士表示,這些“爬蟲”流量消耗了大量的機器資源,卻不產生任何消費,這是每個公司最痛恨的東西。但是,因為怕誤傷真實用戶,各家公司的“反爬蟲”策略做得非常謹慎。

  采用一定手段 “爬蟲”可防可控

  任何事情都有兩面,“爬蟲”技術也不例外。

  在閆懷志看來,“爬蟲”既可為正常的數據批量獲取提供有效的技術手段,也可被惡意使用以獲取不當利益。如果“爬蟲”技術被不正當利用,就會帶來一定的危害。

  首先,威脅數據安全。航空公司售票網站數據被惡意爬取,數據可能會被機票代理公司惡意利用,而且還存在被同業競爭對手獲取的風險。

  其次,導致系統性能下降,影響用戶體驗!芭老x”大量的抓取請求會導致航空公司售票網站服務器資源負載上升、性能下降,網站響應變慢甚至無法提供服務,對用戶搜索和交易體驗造成負面影響。但由于存在巨大的灰色利益空間,同時“反爬蟲”技術在與“爬蟲”對抗中作用有限,使得這種顯失公平的“作弊”方式成為擾亂機票市場秩序的技術“頑疾”。

  “從技術角度來看,阻擊‘爬蟲’可以通過網站流量統計系統和服務器訪問日志分析系統!遍Z懷志說,通過流量統計和日志分析,如果發現單個IP訪問、單個session訪問、User-Agent信息超出設定的正常頻度閾值,則判定該訪問為惡意“爬蟲”所為,將該“爬蟲”的IP列入黑名單以拒絕其后續訪問。

  再就是設置各種訪問驗證環節。比如,在可疑IP訪問時,返回驗證頁面,要求訪問者通過填寫驗證碼、選取驗證圖片或者字符等方式實現驗證。如果是惡意“爬蟲”爬取,顯然很難完成上述驗證操作,進而可以封鎖該“爬蟲”的訪問,防止其惡意爬取信息。

  互聯網空間不能有“灰色地帶”

  當前,云計算、大數據等為代表的新一代信息技術處在高速發展階段。

  “上述新技術如果被非法或者不當應用,則會產生嚴重的危害。互聯網空間安全需要建立健全完善的保護體系,絕不能‘裸奔’。”閆懷志說。

  2017年6月1日,我國《網絡安全法》正式實施,明確了各方在網絡安全保障中的權利與責任。這是中國網絡空間治理和法制建設從量變到質變的重要里程碑,這部法律作為依法治網、化解網絡風險的法律重器,成為我國互聯網在法治軌道上健康運行的重要保障。

  然而,目前對于高科技“黃牛”倒票行為,尚未有明確規定,使得惡意爬取信息并不當獲利行為處在法律法規監管的“灰色地帶”。

  閆懷志介紹,國際上,針對“爬蟲”應用,專門制訂了Robots協議(即“爬蟲”協議、網絡機器人協議等)。該協議全稱為“網絡爬蟲排除標準”,網站可通過該協議告知“爬蟲”可以爬取哪些頁面及其信息,不能爬取哪些頁面及其信息。該協議作為網站和“爬蟲”的溝通方式,用來規范“爬蟲”行為,限制不正當競爭。

  作為國際互聯網界通行的道德規范,該協議的原則是:“爬蟲”及搜索技術應服務于人類,同時尊重信息提供者的意愿,并維護其隱私權;網站有義務保護其使用者的個人信息和隱私不被侵犯。這就規定了爬取者和被爬取者雙方的權利和義務。

  一位不愿具名的法律專家也表示,“反爬蟲”不僅要依靠技術防范和業界自律,還應該通過完善管理和法律法規手段來約束這種行為,尤其是法律手段才能彰顯懲治力和震懾力。航空公司也要完善賬期管理,不給“爬蟲”搶票提供機會。

  本報記者 付麗麗

編輯: 王丹蕾

“爬蟲”如何搶低價票?借助超鏈接信息抓取網頁

在閆懷志看來,“爬蟲”既可為正常的數據批量獲取提供有效的技術手段,也可被惡意使用以獲取不當利益。目前對于高科技“黃!钡蛊毙袨,尚未有明確規定,使得惡意爬取信息并不當獲利行為處在法律法規監管的“灰色地帶”。

精品二区视频_都市激情久久_亚洲精品免费视频_亚洲精品456
国产美女娇喘av呻吟久久| 专区另类欧美日韩| 久久精品日韩一区二区三区| 午夜精品国产更新| 在线观看网站黄不卡| 国产精品每日更新在线播放网址| 韩国精品主播一区二区在线观看| 欧美一级片免费看| 久久精品久久99精品久久| 精品国产一区二区三区av性色| 日本色综合中文字幕| 精品久久人人做人人爰| 久久99精品久久久久久动态图 | 亚洲国产精品一区二区久久 | 亚洲国产精品t66y| 国产不卡视频一区| 国产精品久久久久影院亚瑟| av资源网一区| 一区二区高清免费观看影视大全| 99国产一区二区三精品乱码| 午夜精品视频一区| 激情深爱一区二区| 欧美美女黄视频| 久久99国产精品久久99| 日本一区二区免费在线观看视频| 成人av综合一区| 亚洲成人免费看| 精品国产乱码久久久久久浪潮| 成人网男人的天堂| 性做久久久久久久免费看| 精品欧美一区二区久久 | 亚洲精品一二三| 欧美一区二区三区啪啪| 成人高清视频在线| 青青草国产精品亚洲专区无| 中文字幕 久热精品 视频在线| 欧美日韩另类国产亚洲欧美一级| 久久66热re国产| 一卡二卡三卡日韩欧美| 久久久久国产精品麻豆ai换脸| 成人三级在线视频| 日韩精品亚洲一区二区三区免费| 国产调教视频一区| 日韩一区二区高清| 色综合久久久久| 国产麻豆精品一区二区| 亚洲午夜电影网| 中文字幕在线一区二区三区| 欧美成人a视频| 欧美系列日韩一区| 99久久精品免费| 国产精品一区在线观看你懂的| 日日欢夜夜爽一区| 洋洋av久久久久久久一区| 国产欧美一区二区精品久导航| 日韩一级欧美一级| 欧美日韩一区不卡| 欧美亚洲综合色| 色狠狠一区二区| 色综合久久88色综合天天| 国内成人自拍视频| 男女性色大片免费观看一区二区| 中文字幕一区二区三区av| 国产亚洲午夜高清国产拍精品| 欧美一卡二卡三卡四卡| 欧美日韩国产成人在线91| 在线欧美日韩精品| 99久久精品免费看国产免费软件| 国产主播一区二区三区| 蜜臀va亚洲va欧美va天堂| 爽好多水快深点欧美视频| 亚洲bt欧美bt精品| 亚瑟在线精品视频| 免费成人在线影院| 精品一区二区三区日韩| 免费成人美女在线观看.| 日韩影视精彩在线| 美女尤物国产一区| 精品综合久久久久久8888| 久久99精品久久久久久动态图| 激情五月激情综合网| 国产91精品久久久久久久网曝门| 成人午夜电影久久影院| 色哟哟在线观看一区二区三区| 91啪亚洲精品| 欧美男女性生活在线直播观看| 欧美一区二区三区的| 制服丝袜日韩国产| 精品国产91乱码一区二区三区| 国产亚洲一区二区三区| 国产精品亲子乱子伦xxxx裸| 成人欧美一区二区三区在线播放| 狠狠色丁香九九婷婷综合五月| 国产美女精品人人做人人爽| 97超碰欧美中文字幕| 欧美精品色一区二区三区| 欧美变态凌虐bdsm| 亚洲三级在线观看| 日韩av成人高清| 成人教育av在线| 欧美肥胖老妇做爰| 中文字幕一区二区三区精华液| 图片区日韩欧美亚洲| 国产传媒日韩欧美成人| 91成人免费电影| 久久久久久久久久久久电影| 亚洲综合在线视频| 九色|91porny| 欧美日韩亚洲综合在线 | 国产女主播一区| 丝袜脚交一区二区| 91伊人久久大香线蕉| 日韩三级高清在线| 亚洲黄色性网站| 国产成人免费视频网站 | 丁香一区二区三区| 日韩一区二区三区在线观看| 综合欧美亚洲日本| 国产高清精品久久久久| 欧美欧美欧美欧美| 一区二区三区高清| 成人av手机在线观看| 精品国产一区二区三区不卡| 视频在线观看91| 91蝌蚪国产九色| 国产精品免费看片| 国产乱妇无码大片在线观看| 538prom精品视频线放| 亚洲成人综合在线| 99久久精品国产一区二区三区 | 国产精品一线二线三线| 欧美精品18+| 国产一区二区三区国产| 一本久久精品一区二区| 日本一区二区免费在线| 国产一区福利在线| 日韩精品一区二区三区swag| 日韩精品久久久久久| 欧美色网站导航| 一区二区三区加勒比av| www.亚洲色图| 国产精品美女一区二区在线观看| 毛片av一区二区三区| 日韩欧美国产系列| 美女免费视频一区二区| 日韩欧美精品三级| 国产精品一二三四区| 国产清纯在线一区二区www| 国产成人在线视频网站| 国产精品美女久久久久aⅴ国产馆| 成人美女视频在线观看18| 国产精品久久久久久福利一牛影视| 成人午夜在线播放| 亚洲免费在线视频一区 二区| 一本大道久久a久久精品综合| 亚洲国产成人va在线观看天堂| 欧美在线一区二区三区| 亚洲一区二区免费视频| 欧美日韩免费在线视频| 日韩激情视频网站| 日韩精品一区在线| aaa欧美色吧激情视频| 亚洲一区影音先锋| 欧美日韩精品久久久| 亚洲影视资源网| 日韩欧美一区二区免费| 韩国成人福利片在线播放| 国产欧美精品一区| 欧美日韩一卡二卡| 国产一区二区三区在线观看免费| 国产午夜亚洲精品羞羞网站| 成人av先锋影音| 午夜伦欧美伦电影理论片| 精品欧美一区二区久久| 日本韩国精品一区二区在线观看| 日韩中文字幕亚洲一区二区va在线| 日韩一区二区麻豆国产| 成人一区二区三区视频| 亚洲成人激情综合网| 国产欧美一区二区精品久导航| 欧美在线视频全部完| 国产高清一区日本| 秋霞国产午夜精品免费视频| 国产精品久久久久影院亚瑟 | 久久久久久99精品| 在线观看精品一区| 国产成人aaaa| 热久久久久久久| 一区二区三区国产精华| 欧美国产精品v| 日韩欧美亚洲另类制服综合在线| 色欧美乱欧美15图片| 丁香天五香天堂综合| 精品一区二区综合| 午夜精品一区二区三区电影天堂 | 26uuu久久天堂性欧美| 欧美色视频在线| www.欧美色图| 国产寡妇亲子伦一区二区| 美国av一区二区|