kge369 发表于 2019-6-12 18:16

python代码实现批量yunfile文件下载

本帖最后由 kge369 于 2019-7-4 10:14 编辑



建议下载文件大小不要超过1M吧,超过的话,把等待下载时间加大点
--->说明: 使用python2.7+selenium+chrome v49+百度ocr识别,基本上pip install 相关的程序,源码就可以直接运行了,exe文件也编译了,去别的电脑运行感觉有各种问题,大家自己用源码跑吧,最新chrome版本的话,打开网页太卡了。

网盘的(15+15)秒验证码限制和(5+5)分钟等待还是存在的。好处就是url很多的时候,丢那边就不用管了,{:1_907:} 需要在源码所在目录,下图所示,创建file.txt 、recode.txt 、config.txt


把url全部(一行一个url)放在file.txt中,程序开始则对比recode.txt,对比file.txt文件的url链接是否在recode.txt中,recode中不存在此url则保存到newfile.txt。最终程序打开url使用的是newfile中的url。


config.txt中是定义百度OCR识别的id等,file.txt、recode,txt 、chrome的下载路径(由于不知道怎么自动获取,所以一定要手动填,要不然判断文件是否存在错误,会等待很长时间)。。。。



appId =kge369
apiKey =kge369
secretKey =kge369
pic_path =.\1.png
urlfile =.\file.txt
down_path =C:\Users\Administrator\Downloads\
recodefile =.\recode.txt
引用我发在申请区的帖子

yunfile大概思路是:
广告窗口需要关闭 --> 点击普通下载,获取验证码 --> 截图 -->处理图片获取验证码 -->百度ocr识别图片中的验证码 -->发送数字到验证码框中,点击进入下载-->广告关闭并下载
1、第一个阶段,关闭广告
用chrome打开网页后,现版本yunfile打开时有个广告,想关闭则需要进行元素定位,右键广告的右上角的X,选择 检查,发现是这个 <div class="ad-close-btn"></div> ,class_name元素+ad-close-btn来定位位置,然后点击click()
try:
      print (u'检测广告阶段')
      driver.find_element_by_class_name("ad-close-btn")
      driver.find_element_by_class_name("ad-close-btn").click()
2、第二个阶段,点击普通下载
关闭广告后,右键普通下载这个地方,选择检查,发现是<span class="down_span common_speed_down" id="common_speed_down">普通下载</span>,id元素+common_speed_down来定位位置,然后点击click()
try:
            driver.find_element_by_id("common_speed_down")
driver.find_element_by_id("common_speed_down").click()

3、第三个阶段,截图


#保存网页截图为当前程序所在目录的1.png
pic_path = r'.\1.png'
#截图
try:
      driver.save_screenshot(pic_path)

4、第四个阶段,处理整个网页的截图获取验证码图片
右键验证码图片,选择检查,发现是<img id="cvimg2" style="margin: -8px 15px -8px 4px;" src="/verifyimg/getPcv.html">,使用cvimg2来定位图片的上下左右位置,重新处理图片,保存为1.png
time.sleep(3)
      location = driver.find_element_by_id('cvimg2').location
      size = driver.find_element_by_id('cvimg2').size
      left = location['x']
      top = location['y']
      right = location['x'] + size['width']
      bottom = location['y']+ size['height']
      try:
            #从保存的截图中截取验证码,再次保存
            img = Image.open(pic_path).crop((left,top,right,bottom))
            img.save(pic_path)
      except:
            print (u'保存验证码图片失败')
            pass
#验证码获取后,重置验证码图片的上下左右信息
      left = ''
      top = ''
      right = ''
      bottom = ''
      time.sleep(2)

5、第五个阶段,百度ocr识别图片获取验证码数字
百度OCR部分


###################百度OCR识别#####################################
config = {
    'appId': '11111111',
    'apiKey': 'zzzzzzzzzz111111',
    'secretKey': 'vvvvvvvvvvvvvvvvvvvzzzzzzz'

}
#client = AipOcr(**config)
def get_file_content(file):
    try:
      with open(file,'rb') as fp:
            return fp.read()
    except:
      print ('dakai yanzhengma tupian fail')
def img_to_str(image_path):
    try:
      image = get_file_content(image_path)
      result = client.basicGeneral(image)
    except:
      print (u'百度不通')
      pass
    for i in result.get('words_result'):
      return (i.get('words'))

####################################################################应用百度OCR,设置aaa来获取百度OCR返回的信息

aaa = img_to_str(pic_path)

6、第六个阶段,发送获取的数字到 验证码输入框中,点击下载
点击输入框,然后右键,检查,发现是<input name="vcode" id="vcode" type="text" maxlength="10" size="8" style="height:20px;margin-top:2px;width:85px;">,使用id和vcode来定位元素。清空当前输入框,发送数字到框中。点击下载,等待30秒
try:
            driver.find_element_by_id('vcode')
      except:
            pass
      else:
            code = driver.find_element_by_id('vcode')
            code.clear()
#发送aaa到框中

            code.send_keys(aaa)
            time.sleep(1)
#点击进入下载

            driver.find_element_by_id("slow_button").click()
            yanshi(30)

7、第七个阶段,等待广告并关闭(此时和第一步一致),进行普通下载,下载文件
广告关闭此处省略,回看第一步,关闭广告后,右键普通用户下载,选择检查,发现是<span class="down_span spare_down" id="downbtn">普通用户下载</span>,使用用户id和downbtn元素定位,click()点击下载
try:
      driver.find_element_by_id("downbtn")
      time.sleep(1)
      driver.find_element_by_id("downbtn").click()

完整python源代码:
发现很多人没回复的习惯,都不知道多少人在使用,还是使用附件的方式,来看多少人下载这个源码吧

      
补充说明,下载过的url会记录在recode中,因此每次运行程序,会自动过滤已下载过的url,嘿嘿

kge369 发表于 2019-6-13 10:18

本帖最后由 kge369 于 2019-6-13 23:49 编辑

试过用python 3来运行,主要是check_down_file这里有问题,一开始接触2(虚拟机中),用3(电脑)真是各种不习惯

我修改了下check_down_file,用3的朋友可以用我的,也可以自己修正。


#############################################################################
###对比file.txt文件的url和recode记录,如果未下载则=于 -1,则记录到新文件#####
###使用新文件的url来下载即可。不用每次都判断#################################
def check_down_file():
    try:
      fs = "fs"
      print(u"检测file的url是否已下载")
      with open(urlfile,'rb+') as check_url:
            with open(".\\newfile.txt",'w+') as write:
                write.write("")
            fileurls = check_url.readlines()
            #print(fileurls)
            for fileurl in fileurls:
                fileurla = fileurl.decode().strip()
                with open(recodefile,'rb+') as read:
                  if read.read().find(str.encode(fileurla)) == -1 and fileurla.find(fs) > 0:
                        with open(".\\newfile.txt",'a+') as aa_new:
                            print(fileurla)
                            aa_new.write(fileurla + '\n')
                            if len(fileurla) == 0:
                              print(u"url确认完毕")
    except:
      print(u"呵呵,程序错误了吧!!!联系kge369编程的这个家伙吧")
      sys.exit(1)
      pass
   
###################################################################
源码中需要pip下面几个

pip install pillow

pip install selenium
pip install baidu-aip

newbie2019 发表于 2019-6-19 10:52

这么好的技术分享必须支持一下!

kylekai27 发表于 2019-7-5 09:19

这么好的技术分享必须支持一下!
页: [1]
查看完整版本: python代码实现批量yunfile文件下载