很久没有看论文和写博客，现在把最近看的一篇多示例学习（MIL）的论文解读一下，希望有所收获。
该篇论文提出了一种由神经网络参数化的双流最大自注意的MIL模型（DSMIL）；
主要步骤：1）第一流部署了一个简单的 MIL max-pooling，并确定了top激活的嵌入实例；2）在第二个流中，通过仅将顶部激活的查询与包中的实例相关联，跨实例计算注意力得分。
特点：基于相同的实例嵌入来训练一个实例分类器和包分类器。
包： B = ( x 1 , y 1 ) , ⋯ , ( x n , y n ) B=(x_1,y_1), \cdots, (x_n,y_n) B=(x1,y1),⋯,(xn,yn)；实例： x i ∈ X x_i \in X xi∈X；实例标签： y i ∈ 0 , 1 y_i\in 0,1 yi∈0,1
包的标签： c ( B ) = 1 − ∏ i = 1 n ( 1 − y i ) c(B)=1-\prod \limits_{i=1}^n{(1-y_i)} c(B)=1−i=1∏n(1−yi)；
假设有一些合适的变换 f f f和 g g g，则 c ( B ) = g ( f ( x 0 ) , ⋯ , f ( x n ) ) c(B)=g(f(x_0),\cdots,f(x_n)) c(B)=g(f(x0),⋯,f(xn))。
关于函数 f f f 和 g g g，MIL有两种模型处理方式：1） 基于实例的方法： f f f 是实例级别的分类器，它为每个实例生成一个类别评分， g g g 是一个池化运算符，用于汇总实例评分以生成袋评分；2） 基于嵌入的方法： f f f 是实例级特征提取器，将每个实例映射到一个嵌入， g g g 是一个聚合函数，它首先将所有实例嵌入映射到一个包嵌入，并根据该包嵌入生成一个包得分。
H = [ h 0 , … , h N − 1 ] ∈ R L × N \mathbf{H}=\left[\mathbf{h}_{0}, \ldots, \mathbf{h}_{N-1}\right] \in \mathbb{R}^{L \times N} H=[h0,…,hN−1]∈RL×N 是嵌入实例的包，其中 h i \mathbf{h}_i hi 是第 i i i 个实例的嵌入。
第一个流是一个具有 MIL max-pooling 的实例级别分类器:
c m = max { W 0 h 0 , … , W 0 h N − 1 } \mathbf{c}_{m}=\max \left\{\mathbf{W}_{0} \mathbf{h}_{0}, \ldots, \mathbf{W}_{0} \mathbf{h}_{N-1}\right\} cm=max{
W0h0,…,W0hN−1}其中， W 0 \mathbf{W}_0 W0是一个全连接层的权值矩阵。
第二个流从嵌入实例学习到嵌入包，并且学习包分类器给嵌入包打分。
步骤1）：通过第一流得到最优激活嵌入实例 h m \mathbf{h}_m hm，然后将嵌入实例转换成两个向量 ：查询向量 q i ∈ R L × 1 \mathbf{q}_i\in \mathbb{R}^{L \times 1} qi∈RL×1 和 信息向量 v i ∈ R L × 1 \mathbf{v}_i \in \mathbb{R}^{L \times 1} vi∈RL×1,
q i = W q h i , v i = W v h i , i = 0 , … , N − 1 \mathbf{q}_{i}=\mathbf{W}_{q} \mathbf{h}_{i}, \quad \mathbf{v}_{i}=\mathbf{W}_{v} \mathbf{h}_{i}, \quad i=0, \ldots, N-1 qi=Wqhi,vi=Wvhi,i=0,…,N−1, 其中 W q \mathbf{W}_q Wq 和 W v \mathbf{W}_v Wv是两个全连接层的权值矩阵。
步骤2）：最大自注意力向量的每一个属性 a i a_i ai :
a i = exp ( s i ) ∑ i = 0 N − 1 exp ( s i ) , s i = ⟨ q i , q m ⟩ , i = 0 , … , N − 1 a_{i}=\frac{\exp \left(\mathrm{s}_{i}\right)}{\sum_{i=0}^{N-1} \exp \left(\mathrm{s}_{i}\right)}, \quad s_{i}=\left\langle\mathbf{q}_{i}, \mathbf{q}_{m}\right\rangle, \quad i=0, \ldots, N-1 ai=∑i=0N−1exp(si)exp(si),si=⟨qi,qm⟩,i=0,…,N−1
步骤3）：嵌入包 b ∈ R L × 1 \mathbf{b} \in \mathbb{R}^{L \times 1} b∈RL×1:
b = ∑ i a i v i \mathbf{b}=\sum_{i} a_{i} \mathbf{v}_{i} b=i∑aivi其中，求和的操作是对每个元素都求和。
步骤4）：包的得分 c ∈ R L × 1 \mathbf{c}\in \mathbb{R}^{L \times 1} c∈RL×1:
c b = W 1 b \mathbf{c}_{b}=\mathbf{W}_{1} \mathbf{b} cb=W1b， W 1 \mathbf{W}_1 W1 是一个全连接层的权值矩阵。
步骤5）：最后包的得分是两个流得分的权值和：
c ^ = ( 1 − λ ) c m + λ c b , λ ∈ [ 0 , 1 ] \hat{\mathbf{c}}=(1-\lambda) \mathbf{c}_{m}+\lambda \mathbf{c}_{b}, \quad \lambda \in[0,1] c^=(1−λ)cm+λcb,λ∈[0,1]
文章浏览阅读428次。Vue中document.body.scrollTop的值总为零的解决办法最近在做vue的时候监听页面滚动发现document.body.scrollTop一直为0但是发现document.body.scrollTop一直是0。查资料发现是DTD的问题。页面指定了DTD，即指定了DOCTYPE时，使用document.documentElement。页面没有DTD，即没指定DOCTYPE时，使用d..._滚动给scrolltop赋值
文章浏览阅读2.1k次，点赞25次，收藏21次。人大金仓数据库管理系统KingbaseES（简称：金仓数据库或KingbaseES）是北京人大金仓信息技术股份有限公司自主研制开发的具有自主知识产权的通用关系型数据库管理系统。_kingbase
文章浏览阅读1.2w次，点赞20次，收藏156次。ctions 选项用来定义事件处理方法，用于处理 state 数据。actions 类似于 mutations，不同之处在于 actions 是异步执行的，事件处理函数可以接收 {commit} 对象，完成 mutation 提交，从而方便 devtools 调试工具跟踪状态的 state 变化。..............._vue笔试题
文章浏览阅读1.1w次，点赞2次，收藏23次。isis是一种与ospf很相似的网络协议（属于动态路由协议）,它被应用在巨大规模网络,如运营商以及银行等。同样的它也是基于链路状态算法,支持clnp网络,ip网络。与ospf不同的是,它是基于数据链路层报文传输,而ospf则是在ip层进行计算。它可以自动的发现远程网络，只要网络拓扑结构发生了变化，路由器就会相互交换路由信息，不仅能够自动获知新增加的网络，还可以在当前网络连接失败时找出备用路径。无类..._isis协议配置
文章浏览阅读1.9k次。名称：Proxychains – 通过代理服务器进行连接语法：proxychains 描述：这个程序会强制所有使用特定tcp连接的客户端所引起的TCP连接走代理通道。它是一种跳板程序。这个软件和sockscap、premo、eborder异曲同工。2.0版支持SOCKS4、SOCKS5、HTTP类的代理。认证方法：socks-“user/pass”，http-“basic_proxychains是什么
文章浏览阅读550次。sqlserverntext 字段在读取时返回值net.sourceforge.jtds.jdbc.ClobImpl@555bc78f需要在连接数据库的URL后边加上";useLOBs=false"。转载于:https://www.cnblogs.com/rchao/p/4815421.html..._sqlserver text 读取
文章浏览阅读1.6k次。Description输入一个正整数N和N个正整数，统计其中素数的和。Input输入一个正整数N（1≤N≤100）和N个正整数（≥3），用空格分隔。Output输出所有素数，用空格隔开；再输出这些素数和。Sample Input10 4 5 8 12 13 24 34 37 20 885 1 5 8 12 13Sample Output5 13 37 s=555 13 s=..._输入一个正整数n和n个正整数,统计其中素数的和。
文章浏览阅读2.5k次。归档备份：概念归档备份：概念 如果需要在指定时间内保留联机备份，RMAN 通常会假定用户可能需要在自执行该备份以来到现在之间的任意时间执行时间点恢复。为了满足这一要求，RMAN 会在此时段内保留归档日志。但是，可能仅需要在指定的时间（如两年）内保留特定备份（并使其保持一致和可恢复）。用户不打算恢复到自执行该备份以后的某一时间点，只是希望能够正好恢复到执行该备_rman 备份 生成两个文件
文章浏览阅读9.3k次，点赞9次，收藏58次。引言调试能力是一个程序员的生存根本，可是很多初学者却忽视调试。今天我们就来讨究一下JS的调试技巧。本文章将会详细列举JS相关的各种实用调试技巧。如果您是JS的初学者，那么这篇文章将对您有很大的帮助。为什么要调试？程序就是函数堆砌起来的，程序的运行就是函数的执行过程。而通过JS调试，我们可以更为直观的追踪到在程序运行中，函数的执行顺序，以及各个参数的变化。这样我们就可以快速的定位到问题所在。1. 什么是JS调试？在程序运行中，我们总会遇到各种bug，而通过代码的追踪代码的运行顺序从而定位到问题的过_js断点调试
文章浏览阅读1k次。记录一次kafka内存溢出，消费慢_kafka消费导致内存泄露
文章浏览阅读933次，点赞12次，收藏29次。数据存储在用户浏览器中设置、读取方便、甚至页面刷新不丢失数据容量较大，sessionStorage和localStorage约5M左右正则表达式是用于匹配字符串中正负组合的模式。在JavaScript中，正则表达式也是对象，通常用来查找、替换哪些符合正则表达式的文本作用：表单验证、过滤敏感词、字符串中提取我们想要的部分const 变量名 = /表达式/其中/ /是正则表达式字面量基于VueCli自定义创建项目架子安装脚手架创建项目。
文章浏览阅读2.1k次。解决方法均来源于论坛，自己把它给整理一下1，因为自己做的界面用到了lineedit，但是发现第一次点击lineedit获得焦点就可以弹出输入法界面，但是再重复点击的时候就不能弹出来了，必须重新获得焦点，于是通过重载重载了QLineEdit的mousePressEvent在mousePressEvent加上一个自定义的信号 emit clicked()重载代码如下：mylineedi_qlineedit输入中文无法删除