我写的第一个py爬新浪新闻源码

danran

我就想发帖纪念一下我写的第一个python爬虫，新手可以拿去学习一下，如果是大神希望可以指导我优化一下 哈哈大家相互学习学习{:1_918:}

[Python] 纯文本查看 复制代码

import urllib.request  #导入模块
import re
data=urllib.request.urlopen("http://news.sina.com.cn").read()   #读取网页
data=data.decode("utf-8","ignore")  #编码
pat='href="(https://news.sina.com.cn/.*?[.shtml])"'   #正则表达式
allurl=re.compile(pat).findall(data)
for i in range(0,len(allurl)):
    try:
        data2=urllib.request.urlopen(allurl[i]).read()
        data2 = data2.decode("utf-8", "ignore")
        pat2 = 'og:title" content="(.*?)"'
        tittle = re.compile(pat2).findall(data2)
        if(len(tittle)>=1):
            print(tittle[0] + "\n" + allurl[i])      #获取标题并且输出
        else:
            print("标题爬取失败"+ "\n" + allurl[i])
    except urllib.error.URLError as e:  # 捕获异常并且输出
        if hasattr(e, "code"):
            print(e.code)
        if hasattr(e, "reason"):
            print(e.reason)

jinzilao

danran 发表于 2019-3-19 12:31
怎么搞，求教

就是在每次请求的时候  加一句  time.sleep(3)  每次尽量大于3秒  也可以加个随机数

danran

jinzilao 发表于 2019-3-19 09:53
测试的话还好，如果想长时间运行，恳请加个timesleep，这样对大家都好

怎么搞，求教

吾爱小洪

可以的   我用nodejs也写过   加油

Loser2019

向大佬低头！！！

hill_king

给大佬倒茶

mini5pusb

我是新手，得向你多学习下

文西思密达

大佬 ，请问输出之后在哪里？运行了没反应的

豫黄河

大师，教教我怎么入门的

htss

支持支持，坚决支持！！！！！

guzhenguo

向大佬学习

danran

addision 发表于 2019-3-18 22:05
大佬 ，请问输出之后在哪里？运行了没反应的

用python3的ide打开按f5运行