MVTEC HALCON

利用视觉系统简化机器人水果采摘 - ACRO 研究所

ACRO研究所开发了一款移动式苹果采摘机器人,配备了内置摄像头和MVTec HALCON图像处理软件。 该机器人识别成熟的苹果,计算其位置,并执行精确的抓取动作。 这使得采摘过程高效可靠,有效应对了季节性劳动力短缺的挑战。
HALCON
机器人技术
农业
食品和饮料
包装和物流
3D 视觉
分类
过滤技术
匹配-Matching
测量-Measuring

为了解决比利时农场主寻找可靠季节性工人的难题,自动化研究和教育中心 (ACRO) 研究所开发了一款机器人苹果采摘机。ACRO 是比利时林堡天主教大学学院的衍生公司和技术顾问,还为欧洲共同体提供 PLC 和机器视觉技术培训与研究。

欧洲标准规定,专业种植园的果树高度必须在两到三米之间。自动化研究和教育中心 (ACRO) 的自动水果采摘机 (AFPM) 使用独特的真空抓取器设计来采摘水果并简化视觉系统和机器人控制器之间的协调。AFPM 平台安装在普通农用拖拉机后面,为 Panasonic 工业机器人“采摘”水果提供支持(见图 1)

AFPM 苹果采摘机还包括用于供电的发电机、水平稳定单元、用于扩大操作范围的第七外部垂直轴、SICK 安全扫描装置、Siemens 中央控制单元和带有人机界面 (HMI) 的触摸屏 PC。MVTec 的 HALCON 图像处理软件为机器人提供导航坐标,而在运输过程中可以折叠的遮篷和窗帘可以减少环境光的影响(见图 2)。AFPM 只需要拖拉机上有一名驾驶员,它可以同时有效地处理六名工人的工作量。

最具挑战性的问题之一是水果抓取器的设计。抓取器的最终设计采用了一台 IDS UI-2230RE-C uEye USB 2.0 彩色相机加上包围相机的一个白色柔性硅胶锥体。锥体连接着一台可逆真空机/鼓风机(见图 3)

将相机放置在抓取器内之后,相机的位置完全可控。相机可以将其光轴指向苹果,减少图像失真,同时也省去了苹果采摘过程中重复校准的步骤。最后一个优点是,相机不会受到碰撞或恶劣天气条件的影响,也不会受到阳光直射。

苹果采摘机移动到果树前方,且围绕 AFPM 平台的遮篷打开后(见图 4),需要使用不同的液压脚和升降机系统主动稳定采摘机。装置自动调整后,相机从 40 个预编程的位置扫描果树。这样就会将每棵树分成 40 个扇区或图像。

Vacuum gripper with integrated USB camera used for vision-guided apple picking.
图 3:AFPM 的真空抓取器装置内部有一台 USB 2.0 相机。
Robotic apple harvester picking apples in an orchard with a canopy to control lighting conditions.
图 4:AFPM 在果园里采摘苹果。遮篷覆盖着一棵苹果树,阻挡强烈的阳光。

机械臂的编程位置和方向会随每张图像一起存储。位置数据存储在 PC 的 RAM 中。图像处理软件会识别每个扇区中所有成熟的苹果,将其列出,再通过一个循环任务逐个采摘。

平台经过专门设计,可以最大程度地控制光照条件,利用遮篷覆盖整棵树,利用 AFPM 平台减少环境光照条件变化的影响并提供统一的背景(蓝色),以方便定位苹果(红色和绿色)。

图像处理在配备 2 GHz Pentium IV 微处理器和 1 GB RAM、运行 Windows XP 的工业 PC 上进行。据 ACRO 项目的首席设计师 Eric Claesen 介绍,AFPM 设计人员选择了 MVTec 的标准机器视觉库 HALCON 7.1 作为图像处理软件,因为它准确可靠。该系统可以采摘一棵树上 85% 的苹果,成效接近人工采摘作业。

系统校准过程中,第一步是使用苹果树叶子的颜色和蓝色的背景遮篷训练系统。使用一系列颜色阈值处理步骤来滤除这些不需要的特征。首先从 40 张图像中的每一张中过滤出蓝色,然后过滤出树叶。通过颜色阈值来定位苹果表面的绿色和红色部分。经过降噪处理后,利用 HALCON 的 opening_circle 和 select_shape 卷积,填充图像中的空洞,让苹果的位置清晰地显现出来(见图 5)。通过分水岭过滤将单个苹果从一串苹果(如有)中分离出来之后,选择每个苹果并将其转换为一个圆形。

为了摘一个苹果,机器人必须确定相机和苹果之间的距离以及到达苹果的路径。相机通过三角测量来测量这一距离。测量分几个步骤进行。首先由相机采集图像,然后转动相机以使苹果位于中心(见图 6)。然后由相机采集第二张图像,最后通过处理这两张图像来计算直径。此时,视觉系统会确定苹果的尺寸是否在可接受的范围内。如果是,则通过 Profibus 连接向机器人控制器发送信号,允许机械臂继续朝向苹果。

在接近苹果的同时,对多张图像进行处理,通过三角测量计算到苹果的剩余距离,同时以大约 300 立方米/分钟的速度通过抓取器吹风,让水果从可能遮蔽它的叶子中显现出来。对于采集的每张图像,系统使用专有公式计算剩余距离。由于苹果会在图像中保持居中,因此给定苹果在后续图像中的相关性很低。接近选定的苹果后,通过采摘装置吹风,吹开苹果周围的叶子。一旦苹果进入抓取器周围一个明确定义的范围,真空装置就会激活。检测到真空之后,轻轻旋转并倾斜苹果,将其摘下,然后放到一边。

Diagram illustrating distance measurement between camera and apple for vision-guided picking.
图 6:相机与苹果之间的距离

特点、优势和效益

ACRO 的 Eric Claesen 介绍道:“三年前,项目一开始的目标是研究是否有可能用现代技术采摘苹果。如今项目行将结束,我们可以说项目取得了成功。我们可以正确地检测并采摘树上 85% 的苹果。目前,采摘机每 8 秒可采摘一个苹果,不过在 2007 年采摘季节后,这个时间会缩短到 6 秒或 5 秒。

设计人员认为,这个时间可以缩短到大约 5 秒,主要是通过改善视觉系统和中央控制器单元之间的通信瓶颈。设计人员还计划提高果园导航的自动化程度,调整设备以便用于采摘其他水果,例如梨。”

作者:Lutz Kreutzer 博士

产品/商标的所有产品名称、商标和图片版权均属于其持有者。保留所有权利。

发布日期: 八月 21, 2013

更多新闻

MVTec MERLIC 26.03 现已上市
借助 MERLIC 26.03,机器视觉应用的开发与运行将变得更加一致且更具可扩展性。该版本引入了统一的 MVTec 版本命名格式(YY.MM),并提供了更简化的、基于软件包的许可模式,同时支持灵活的附加组件。…
了解更多
MERLIC
新版深度学习工具显著提升了 Deep OCR 的性能
凭借 Deep OCR 对齐功能及其他改进,深度学习工具 26.03 提升了 OCR 应用的速度和效率。新模型、优化后的训练以及对 CUDA 12.8 的支持,在降低内存占用量的同时带来了更高的性能。
了解更多
深度学习工具
MVTec Academy 新课程:马赛克拼接——使用 HALCON 进行图像拼接
本基础培训将向您介绍HALCON中的拼接技术。本课程将向您展示如何将多张图像组合成一张大型拼接图像。因此,借助这项技术,您可以生成物体或场景的大幅图像,而这些内容原本无法完全纳入单个摄像头的视野范围内。…
了解更多
Academy
HALCON
使用 HALCON 进行并行编程
本高级培训将向您介绍使用 HALCON 进行并行编程的概念。通过应用并行编程,您可以优化 HALCON 程序的性能,并充分利用多核或多处理器硬件的优势。
了解更多
Academy
HALCON
MVTec 软件管理器 1.6.5:中国地区下载速度全面提升
为提升中国地区用户的软件下载性能,MVTec 现已提供专用的代理缓存服务器。通过 MVTec Software Manager 进行的软件下载将变得更加快速和稳定。
了解更多
MVTec
HDevelopEVO 预览版:最新更新现已推出
更快、更直观且更具交互性的编程体验:所有 HALCON 用户现在均可下载全新的 IDE 预览版。
了解更多
HALCON
MVTec License Server 25.12 新版本发布
借助 MVTec License Server Cloud-Ready 25.12,HALCON 许可证可以借用,从而在网络中断或离线情况下仍可运行。
了解更多
MVTec
MVTec 深度学习工具 25.12 现已发布
2025 年 12 月 04 日,我们发布了 MVTec 深度学习工具的新版本 25.12,从而进一步发展了我们基于人工智能的机器视觉产品组合。
了解更多
深度学习工具
MVTec Academy 全新课程:《图像采集:适用于现代相机技术的接口》
本培训课程将向你介绍 HALCON 中新增的图像采集算子。通过实践练习,你将学习必要的技术术语和概念,并进一步加深理解。
了解更多
Academy
HALCON
HALCON 25.11 现已上市
新版本的 MVTec HALCON 现已可供下载。此次版本再次带来了多项优化与全新功能,其中包括全新的 持续学习(Continual Learning)– 分类 技术,使分类模型的训练与更新过程更加快速、灵活。
了解更多
HALCON
MVTec 线上学院新课程 "通过语言接口进行代码集成"
本高级课程讲解如何在使用 C、C++、C#、Visual Basic .NET 和 Python 编写的软件项目中集成并使用 HALCON 库。
了解更多
Academy
HALCON
MVTec Academy 新课程:使用 GigE Vision 进行图像采集
本高级课程深入讲解如何在 HALCON 中使用 GigE Vision 相机。
了解更多
Academy
HALCON
MVTec MERLIC 5.8 现已上市
MVTec MERLIC 5.8 让视觉应用的开发和运行比以往更加简单,具有改进的错误处理、集中式配方管理以及更快速、更灵活的部署。
了解更多
MERLIC
MVTec Academy 新课程:手眼标定
在本高级课程中,您将学习如何使用 HALCON 进行手眼标定。
了解更多
Academy
HALCON
MVTec License Server 25.08 新版本发布
本次更新使 License Server 更容易作为 Windows 系统服务运行,并提供了更便捷的文档访问。
了解更多
MVTec
新MVTec学院课程“检查条码和2D数据码的打印质量”
在本高级培训课程中,您将学习如何使用HALCON和MERLIC对条码和数据码进行打印质量检测。
了解更多
Academy
HALCON
MERLIC
新MVTec学院课程“缺陷检测”
本基础培训将向您介绍使用MVTec HALCON进行缺陷检测。您将学习不同的方法以及在开发缺陷检测应用程序时需要考虑的因素。随后,您将使用不同方法解决一些具有挑战性的应用案例。
了解更多
Academy
HALCON
MVTec HALCON software box with surfer – new version
HALCON 25.05 现已上市
新版本的 MVTec HALCON 现已可供下载。 HALCON 25.05 引入了形状匹配扩展参数估计的第一次迭代。在此版本中,MVTec 专注于提高 HALCON 的易用性和基于规则的机器视觉。
了解更多
HALCON
MVTec Academy 新课程:“为 MERLIC 开发自定义工具”
本高级培训将向您介绍如何为MERLIC开发自定义工具,以扩展现有的MERLIC工具库。
了解更多
Academy
MERLIC
MVTec 深度学习工具 25.04 现已发布
2025 年 4 月 30 日,我们发布了 MVTec 深度学习工具的新版本 25.04,从而进一步发展了我们基于人工智能的机器视觉产品组合。
了解更多
深度学习工具
MVTec MERLIC 5.7 现已上市
借助新版本 MERLIC 5.7,MVTec 延续了 MERLIC 的既定路线——轻松的流程集成与强大的机器视觉方法相结合。新版本 提高了 MERLIC 运行环境(RTE) 的可用性,并优化了通信接口的操作。
了解更多
MERLIC
全新 MVTec Academy 课程:学习全球上下文异常检测
高级在线课程讲解如何准备数据、训练和应用 MVTec 全球上下文异常检测模型。
了解更多
Academy
HALCON
MERLIC
任务完成:MVTec 圣诞问答活动!
随着我们的圣诞问答活动圆满结束,我们很高兴与大家分享精彩的结果!
了解更多
MVTec
MVTec Software