2024年最大的图像分割数据集是怎么来的？——图像分割SAM模型-程序员宅基地
技术标签： 算法 python 计算机视觉 图像处理 人工智能
Segment Anything Model （SAM）：Meta AI 的一种新的 AI 模型，只需单击一下即可“剪切”任何图像中的任何对象。它已经在 1100 万张图像和 11 亿个掩码的数据集上进行了训练，在各种分割任务中具有很强的zero shot性能。
目录
一、引言
自然语言处理领域，基础模型通过零样本迁移学习快速使用到其他任务。
ChatGPT就是使用提示法进行交互的模型。几乎所有的文本都可以用来序列预测，因为序列预测不需要标签。
为什么计算机视觉没有泛用性强的零样本迁移学习模型？
图片资源没有标注分界框和分割掩码，创建基础模型是一个挑战。
SAM模型在数据收集循环中使用，建立庞大的分割数据集，在1100万张特许和尊重隐私的图像上有超过10亿个掩码。该模型的设计和训练是可提示的，因此可以zero-shot的方式转移到新的图像分布和任务。
SAM的目标是创建一个类似NLP领域的foundationmodel（例如GPT），它是一种使用prompt engineering机制的预训练模型并可以灵活地解决下游任务。
其中提示Prompt的类型：
• 一组前景、背景 标记点• 粗略的 标记框 或者 掩码• 自由格式的 文字
无论哪种情况，模型都应该足够灵活，输出分割掩码!
二、SAM模型技术原理
1.模型特色
（1）多返回对象
可提示分割任务是在给定任何提示的情况下返回有效的分割掩码。有效掩码的要求意味着即使提示不明确，并且可能涉及多个对象，输出也应该是其中至少一个对象的合理掩码。
每一列都是由SAM模型产生的3种有效输出
（2）预训练
可提示分割任务提出了一种自然的预训练算法，该算法模拟每个训练样本的prompt序列（例如，点、框、掩码），并将模型的掩码预测与GroundTruth进行比较。
与前人的交互式分割工作不同：
交互式分割的目的是在 足够的用户输入 （ 多次 与用户交互并 不断优化 ）后最终预测有效的掩码可提示分割的目的是始终预测 任何提示 的 有效掩码 ，即使提示不明确（与用户交互后产生 多个 预测结果）
（3）零样本学习Zero-shot transfer
预训练任务赋予了模型在推理时对任何提示做出适当响应的能力，因此下游任务可以通过设计适当的提示来解决。
例如，如果有一个目标检测任务识别出猫的边界框，则可以通过我们的模型使用框作为输入来解决猫实例分割任务
2. Segment Anything Model框架
这里对SAM的各个模块进行了一些中文解释，建议详情看图。
3.掩码质量评估
为了评估掩码质量，研究者随机抽取了500张图像（大约5万个掩码），在模型预测掩码的基础上对其进行专业矫正。
数据引擎：为了对庞大数据的图像进行掩码标注，作者开发了数据引擎。
模型标注数据：标注好的数据用来优化模型。以此循环，迭代优化模型以及数据质量。
数据开发分为以下阶段，
1、模型辅助手动标注：标注员细化掩码标签；
2、半自动标注阶段：为使标注者专注于不太突出的对象，首先SAM自动分割高置信度的掩码，然后向标注者展示预填充这些掩码的图像，并要求他们标注任何其他未标注的对象；
3、全自动阶段：已收集足够多的掩码来改进模型；已开发模糊感知模型，允许在有歧义的情况下预测有效的掩码。
4.应用分析
研究者表示SAM具有协助处理许多真实世界场景的能力。
对SAM在多种真实世界分割场景（例如，自然图像、农业、制造业、遥感和医疗健康场景）中的性能进行了评估。在像自然图像这样的常见场景中，它具有优秀的泛化能力;
而在低对比度的场景中，它的效果较差，而且在复杂场景中需要强大的知识。
三、SAM模型发展应用
SAM在图像处理领域的应用——软件场景
软件场景需要对图像编辑和修复进行操作，例如移除对象、填充对象和替换对象。
现有的修复工作，如利用DDPM模型做图像修复的repaint模型，需要对每个掩码进行精细的注释以达到良好的性能，这是一项劳动密集型的工作。
SAM可以通过简单的提示如点或框来生成准确的掩码，可以帮助辅助图像编辑场景。
Inpaint Anything算法：用户可以通过点击图像中的任何对象来选择它。对于对象移除，该流程由 SAM 和最先进的修复器组成；对于对象的填充和替换，第二步使用像 Stable Diffusion (SD) 这样的 AI 生成的内容模型。
参考文献：
《A Comprehensive Survey on Segment Anything Model for Vision and Beyond》
链接：
https://arxiv.org/pdf/2305.08196.pdf
SAM在图像处理领域的应用——视觉相关
随着 ViT 的出现，基于ViT的医学图像分割方法，在医学图像分割中取得了超越以往的性能。然而，这类网络面向的是特定的任务，缺乏对其他任务的泛化能力。
在医学图像分割任务中，SAM 的表现并不理想，主要原因在于训练数据的匮乏。尽管 SAM 在训练过程中构建了一个复杂而高效的数据引擎，但所收集到的病例数据量有限，且很少具备实际医疗应用价值。
一种解决方法是针对下游任务进行微调，自适应策略称为医疗 SAM 适配器采用一种称Adaption 的参数高效微调（ parameter-efficient fine-tuning，PEFT）技术，即将几个参数高效Adapter 模块插入到原始的基本模型中，然后只调整 Adapter 参数，同时冻结所有预先训练的参数。
医疗图像 SAM 概览，包括了CT图像、MRI图像、结肠镜检查图像、多格式图像、H&E 染色组织切片图像等
最后放上一些参考链接
智能推荐
攻防世界_难度8_happy_puzzle_攻防世界困难模式攻略图文-程序员宅基地
文章浏览阅读645次。这个肯定是末尾的IDAT了，因为IDAT必须要满了才会开始一下个IDAT，这个明显就是末尾的IDAT了。，对应下面的create_head()代码。，对应下面的create_tail()代码。不要考虑爆破，我已经试了一下，太多情况了。题目来源：UNCTF。_攻防世界困难模式攻略图文
达梦数据库的导出（备份）、导入_达梦数据库导入导出-程序员宅基地
文章浏览阅读2.9k次，点赞3次，收藏10次。偶尔会用到，记录、分享。1. 数据库导出1.1 切换到dmdba用户su - dmdba1.2 进入达梦数据库安装路径的bin目录，执行导库操作 导出语句：./dexp cwy_init/[email protected]:5236 file=cwy_init.dmp log=cwy_init_exp.log 注释： cwy_init/init_123..._达梦数据库导入导出
js引入kindeditor富文本编辑器的使用_kindeditor.js-程序员宅基地
文章浏览阅读1.9k次。1. 在官网上下载KindEditor文件，可以删掉不需要要到的jsp，asp，asp.net和php文件夹。接着把文件夹放到项目文件目录下。2. 修改html文件，在页面引入js文件：<script type="text/javascript" src="./kindeditor/kindeditor-all.js"></script><script type="text/javascript" src="./kindeditor/lang/zh-CN.js"_kindeditor.js
STM32学习过程记录11——基于STM32G431CBU6硬件SPI+DMA的高效WS2812B控制方法-程序员宅基地
文章浏览阅读2.3k次，点赞6次，收藏14次。SPI的详情简介不必赘述。假设我们通过SPI发送0xAA，我们的数据线就会变为10101010，通过修改不同的内容，即可修改SPI中0和1的持续时间。比如0xF0即为前半周期为高电平，后半周期为低电平的状态。在SPI的通信模式中，CPHA配置会影响该实验，下图展示了不同采样位置的SPI时序图[1]。CPOL = 0，CPHA = 1：CLK空闲状态 = 低电平，数据在下降沿采样，并在上升沿移出CPOL = 0，CPHA = 0：CLK空闲状态 = 低电平，数据在上升沿采样，并在下降沿移出。_stm32g431cbu6
计算机网络-数据链路层_接收方收到链路层数据后,使用crc检验后,余数为0,说明链路层的传输时可靠传输-程序员宅基地
文章浏览阅读1.2k次，点赞2次，收藏8次。数据链路层习题自测问题1.数据链路(即逻辑链路)与链路(即物理链路)有何区别?“电路接通了”与”数据链路接通了”的区别何在?2.数据链路层中的链路控制包括哪些功能?试讨论数据链路层做成可靠的链路层有哪些优点和缺点。3.网络适配器的作用是什么?网络适配器工作在哪一层?4.数据链路层的三个基本问题(帧定界、透明传输和差错检测)为什么都必须加以解决？5.如果在数据链路层不进行帧定界，会发生什么问题？6.PPP协议的主要特点是什么？为什么PPP不使用帧的编号？PPP适用于什么情况？为什么PPP协议不_接收方收到链路层数据后,使用crc检验后,余数为0,说明链路层的传输时可靠传输
软件测试工程师移民加拿大_无证移民，未受过软件工程师的教育（第1部分）-程序员宅基地
文章浏览阅读587次。软件测试工程师移民加拿大 无证移民，未受过软件工程师的教育(第1部分) (Undocumented Immigrant With No Education to Software Engineer(Part 1))Before I start, I want you to please bear with me on the way I write, I have very little gen...
随便推点
Thinkpad X250 secure boot failed 启动失败问题解决_安装完系统提示secureboot failure-程序员宅基地
文章浏览阅读304次。Thinkpad X250笔记本电脑，装的是FreeBSD，进入BIOS修改虚拟化配置（其后可能是误设置了安全开机），保存退出后系统无法启动，显示：secure boot failed ，把自己惊出一身冷汗，因为这台笔记本刚好还没开始做备份.....根据错误提示，到bios里面去找相关配置，在Security里面找到了Secure Boot选项，发现果然被设置为Enabled，将其修改为Disabled ，再开机，终于正常启动了。_安装完系统提示secureboot failure
C++如何做字符串分割（5种方法）_c++ 字符串分割-程序员宅基地
文章浏览阅读10w+次，点赞93次，收藏352次。1、用strtok函数进行字符串分割原型： char *strtok(char *str, const char *delim);功能：分解字符串为一组字符串。参数说明：str为要分解的字符串，delim为分隔符字符串。返回值：从str开头开始的一个个被分割的串。当没有被分割的串时则返回NULL。其它：strtok函数线程不安全，可以使用strtok_r替代。示例：//借助strtok实现split#include <string.h>#include <stdio.h&_c++ 字符串分割
2013第四届蓝桥杯 C/C++本科A组 真题答案解析_2013年第四届c a组蓝桥杯省赛真题解答-程序员宅基地
文章浏览阅读2.3k次。1 .高斯日记 大数学家高斯有个好习惯：无论如何都要记日记。他的日记有个与众不同的地方，他从不注明年月日，而是用一个整数代替，比如：4210后来人们知道，那个整数就是日期，它表示那一天是高斯出生后的第几天。这或许也是个好习惯，它时时刻刻提醒着主人：日子又过去一天，还有多少时光可以用于浪费呢？高斯出生于：1777年4月30日。在高斯发现的一个重要定理的日记_2013年第四届c a组蓝桥杯省赛真题解答
基于供需算法优化的核极限学习机(KELM)分类算法-程序员宅基地
文章浏览阅读851次，点赞17次，收藏22次。摘要：本文利用供需算法对核极限学习机(KELM)进行优化，并用于分类。
metasploitable2渗透测试_metasploitable2怎么进入-程序员宅基地
文章浏览阅读1.1k次。一、系统弱密码登录1、在kali上执行命令行telnet 192.168.26.1292、Login和password都输入msfadmin3、登录成功，进入系统4、测试如下：二、MySQL弱密码登录：1、在kali上执行mysql –h 192.168.26.129 –u root2、登录成功，进入MySQL系统3、测试效果：三、PostgreSQL弱密码登录1、在Kali上执行psql -h 192.168.26.129 –U post..._metasploitable2怎么进入
Python学习之路：从入门到精通的指南_python人工智能开发从入门到精通pdf-程序员宅基地
文章浏览阅读257次。本文将为初学者提供Python学习的详细指南，从Python的历史、基础语法和数据类型到面向对象编程、模块和库的使用。通过本文，您将能够掌握Python编程的核心概念，为今后的编程学习和实践打下坚实基础。_python人工智能开发从入门到精通pdf