【python 爬虫】识别网站所用技术_python识别网站所用技术-程序员宅基地

技术标签: 数据科学--python  python  

有一个十分有用的工具可以检查网站构建的技术类型——builtwith 模块(只支持python2环境,python3环境报错)。

pip install builtwith

该模块将 URL 作为参数,下载该 URL 并对其进行分析,然后返回该网站使用的技术。

举个例子:

>>> import builtwith
>>> builtwith.parse('http://xxxxxxxxxxxxxxxxxx')
{
   u'javascript-frameworks': [u'jQuery', u'Moment.js'], u'web-frameworks': [u'Flask', u'Twitter Bootstrap'], u'programming-languages': [u'Python'], u'web-servers': [u'Python']}
>>> 

用的python flask框架写的。

再来看下csdn用的什么技术。(lua语言写的)

>>> builtwith.parse('http://blog.csdn.net/')
{
   u'javascript-frameworks': [u'jQuery'], u'font-scripts': [u'Font Awesome'], u'web-frameworks': [u'Twitter Bootstrap'], u'programming-languages': [u'Lua'], u'web-servers': [u'OpenResty', u'Nginx']}
>>> 
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/u013421629/article/details/78008661

智能推荐

Mellanox网卡不能分配VF解决方法_mellanox 网卡驱动代码分析-程序员宅基地

背景  VF全称为Virtual Function,是硬件的SR-IOV特性提供的功能,简单的说,就是把一个物理上的设备,虚拟出多个虚拟设备,这些虚拟设备可以再分给其他OS使用。   Mellanox网卡大多支持SR-IOV功能,我们通过加载Mellanox网卡的驱动来实现分配VF的功能。 如下,就是把每个Mellanox网卡分配出多8个虚拟功能VF。然而,这次我们驱动加载却失败了,dmesg报错_mellanox 网卡驱动代码分析

poj3279 Fliptile (二进制枚举)_农夫约翰知道,一头智力满足的奶牛是一头会产更多牛奶的快乐奶牛。他为奶牛安排了-程序员宅基地

Fliptilepoj3279题目描述(机翻)农夫约翰知道一头智力满足的奶牛是一头快乐的奶牛,它会产更多的牛奶。他为奶牛安排了一项脑力活动,让它们操纵一个M×N的网格(1≤M≤15;1≤N≤15)方片,每方片一面为黑色,另一面为白色。正如人们所猜测的,当一块白色瓷砖翻转时,它会变成黑色;当翻转一个黑色的瓦片时,它会变成白色。当奶牛翻转瓷砖时,它们会得到奖励,此时每块瓷砖都有一面朝上的白色。..._农夫约翰知道,一头智力满足的奶牛是一头会产更多牛奶的快乐奶牛。他为奶牛安排了

Java抽象类与接口区别和设计理念差异_抽象类和接口的设计理念-程序员宅基地

区别一: 抽象类中可以存在非抽象的方法 VS接口中的方法被默认的变成抽象方法,只要是定义了接口,接口中的方法 就全部变成了抽象类即使你不写 abstract 它也是抽象的方法 区别二: 实现抽象类的方法时, 如果方法是抽象的,子类必须重写抽象的方法. 如果方法不是抽象的, 子类可以选择..._抽象类和接口的设计理念

入门学习钥匙-程序员宅基地

http://www.javaxp.net/j2ee_study/ http://code.google.com/p/simplejee/ 初级Java入门: 尚学堂科技_马士兵_J2SE视频教程 http://www.youku.com/playlist_show/id_1499252.html 中级Javer推荐: XML 上http://v.youku.com/v

基于SPI通信方式的OLED显示_spi oled屏 定义_guiqulaix的博客-程序员宅基地

1SPI简介SPI是串行外设接口(Serial Peripheral Interface)的缩写,是由 Motorola 公司提出的一种高速的,全双工,同步的通信总线,被广泛地使用在 ADC、LCD 等设备与 MCU 间要求通讯速率较高的场合。SPI总线系统可直接与各个厂家生产的多种标准外围器件连接,该接口一般使用4条线:串行时钟线(SCK)、主机输入/从机输出数据线MISO、主机输出/从机输入数据线MOST和低电平有效的从机选择线C/S(有的SPI接口芯片带有中断信号线INT或INT、有的SPI接口芯片_spi oled屏 定义

C语言编程>第七周 ③ 下列程序定义了N×N的二维数组,并在主函数中赋值。请编写函数fun,函数的功能是:求出数组周边元素的平均值并作为函数值返回给主函数中的r。_请编写函数fun,其功能是:求出n!并将结果返回给主函数。 完成程序后请编译并运行程-程序员宅基地

例题:下列程序定义了N×N的二维数组,并在主函数中赋值。请编写函数fun,函数的功能是:求出数组周边元素的平均值并作为函数值返回给主函数中的r。例如:若c数组中的值为:1 9 74 5 23 8 3则返回主程序后r的值应为4.625000请勿改动主函数main与其它函数中的任何内容,仅在函数fun的花括号中填入所编写的若干语句。代码如下:#include<stdio.h>#include<conio.h>#include&_请编写函数fun,其功能是:求出n!并将结果返回给主函数。 完成程序后请编译并运行程

随便推点

从0到1用java再造tcpip协议栈:使用jpacap模拟数据链路层-程序员宅基地

我们上一节成功使用jpcap获得了网卡硬件,我们要重新构造tcp/ip协议栈,那么就需要做两部分工作。一部分由上层协议完成,他们的工作是将要发送的数据进行封装,主要是在数据包上添加包头数据结构,包头里有很多控制字节,用于不同节点间进行数据传送时对传送过程的控制和调整,了解,掌握,实现每层数据协议的包头结构以及数据控制流程是我们系列课程的重点和难点。有了上层数据封装后,剩下的就需要下层硬件将数据准...

Debian之—— Debian 9允许root用户登录和以ssh方式登录_debian 9 ssh root权限登录-程序员宅基地

转载请注明出处:https://blog.csdn.net/l1028386804/article/details/861444231.允许以root用户登录操作系统默认情况下debian是不允许以root用户登录的,只能以其他用户登录系统中,然后su到root用户下进行操作。1.1修改/etc/gdm3/daemon.conf文件新增下面一行AllowRoot = true..._debian 9 ssh root权限登录

solr亿万级索引优化实践(一)_solr万亿级数据 实践-程序员宅基地

海量数据的索引,第一个要解决的是数据存储的问题,solr提供数据存储平台有两种,第一个是本地磁盘,另一个是HDFS,我们可以通过solrhome的配置来实现。在本次实践中,我们选择的是本地磁盘,因为采用的solrcloud部署模式,本身就是多节点多机器,在存储上不会有问题,还有另一个重要的原因后面会讲到。下面讲讲具体从哪些方面做了实践。 solr版本:solr6.0.0;主机:..._solr万亿级数据 实践

display 属性-程序员宅基地

这里向大家描述一下HTML DOM display属性的定义和用法,HTML DOM display属性主要用来设置元素如何显示,比如当此属性值为none时,表示此元素不会被显示,而block则表示此元素将显示为块级元素,此元素前后会带有换行符。HTML DOM display属性定义和用法此属性主要用来设置元素如何显示。语法:Object.style.display=value...

nvenc vs x264 对比(2)_vmaf bitrate-程序员宅基地

目标分析Nvidia nvenc与x264的性能、编码质量差异。主要通过fps来衡量编码速度和效率,PSNR、SSIM、VMAF来衡量编码的画质,通过绘制PSNR-Bitrate、SSIM-Bitrate和VMAF-Bitrate来衡量编码器的压缩比。并通过以上的实验分析研究给出推荐的nvenc硬件编码参数方案。 数据准备为了包含普遍性选取以下YUV序列进行测试: 序..._vmaf bitrate

Java程序员的C++回归路(一)-程序员宅基地

前言:工作后吃饭的语言是java,同时写一些python和js,在学习机器学习的时候发现有必要再熟悉一下c++,同时工作也有c++的使用需求。于是开始对照c++ primer自学,希望能够对同样是其他语言的学习者,在学习c++的时候提供一些帮助。第1章: 起始First program主流编译器:GNU 编译器和微软的编译器,运行微软编译器的命令是:clInput/Outp..._c++ 开发者回归

推荐文章

热门文章

相关标签