网站首页 >> 知识百科 >> 正文
标题

别上当受骗!以下是如何识别人工智能生成的视频片段

kmwl520   2024-05-18 19:54:00   15℃   0
内容

文章:《别上当受骗!以下是如何识别人工智能生成的视频片段》_配图

随着生产性人工智能继续以惊人的速度发展,辨别你在网上看到的东西是真的还是假的变得越来越困难。我们需要担心的也不仅仅是静态图像。人工智能生成的视频也在增加,随着 OpenAI 的Sora文本到视频工具即将到来,从人工智能生成的小说中辨别事实可能很快就会比以往任何时候都更加困难。

那么,你到底是如何找到苍井空和其他人工智能公司制作的视频的呢?目前,针对人工智能生成的视频的软件辅助检测工具极其稀缺(除非你只专注于人脸可见的深度假冒),因此目前,你必须相信自己,而不是机器人。

为了帮助您提高技能并了解需要注意的事项,我们从OpenAI收集了一些SORA视频样本(包括该公司研究论文《作为世界模拟器的视频生成模型》中附带的几个样本)。我们将以这些样本为例,向您展示视频可能是由AI生成的一些迹象。以下是你应该寻找的:

挑战物理学

除非你在看《盗梦空间》,否则大多数拍摄的东西都遵循物理定律。但对于苍井空来说,情况并非如此。在论文中,OpenAI谈到了苍井空作为模拟器的局限性,他说:“例如,它没有准确地对许多基本相互作用的物理模型进行建模,比如玻璃破碎。”

以下是一段视频,展示了类似的场景。一个玻璃杯跳到空中,附近没有明显的原因,液体穿过固体玻璃,当它击中桌子时,固体玻璃本身就会溶解。

当试图确定视频是否是人工智能创建的时,你应该密切观察其中的所有现象,无论是主要动作,还是发生在背景中的事情。

此外,当你在看的时候,要衡量你的感受。当事情的表现与应有的不同时,这通常会让我们人类感到不舒服–这种现象被称为诡异谷。所以相信你的直觉吧。如果有些东西看起来有点不对劲–即使你不太清楚到底是什么–那就把它当作一个信号,表明这段视频值得进一步审查。

不真实的状态

在现实生活中,咬一口苹果,一大块就不见了。在苍井空的世界里,这并不一定是这样的。OpenAI指出,“互动,就像吃食物一样,并不总是产生对象状态的正确变化。”

因此,虽然你应该监控动作来判断某个东西是否是人工智能,但同样重要的是你要跟踪反应,特别是对固体物体的反应。

在上面的视频中发生了很多事情,但当这名男子在雪中行走时,你会看到他身后有一组脚印。当他行走时,不会产生新的脚印。此外,太空头盔中涉及到很多纱线。

无意义序列

仔细看一段人工智能制作的视频,你很可能会注意到前后不一致的地方。它们可能是刺眼的,或者只是牵扯到你的思想角落的东西。如果是后者,注意你从哪里开始感觉到有什么不对劲,并密切关注它。

在上面的视频中,一只手画了一棵樱花树。虽然绘画是随着笔触的发展而发展的,但有时画笔上的颜料会改变颜色,尽管画笔从未离开画布。

寻找熟悉的事物

在接受《华尔街日报》记者乔安娜·斯特恩的采访时,OpenAI首席技术官米拉·穆拉蒂一再不愿透露苍井空接受过哪些培训,而不是说除了公开的、经过许可的数据之外。撇开这件事的伦理和潜在的法律后果不谈,这意味着你可以尝试对视频进行反向工程,看看它是不是真的。

尼克·圣皮埃尔是一位创意总监,也是中途之旅的粉丝,他对苍井空作品的来源有一种感觉。他想出了适合他看过的苍井空视频的提示,并将它们放在中途生成AI静止图像。果不其然,他想出了十几个例子,说明苍井空的视频只不过是旅途中的运动图像。

如果你在评估一段视频时想要使用的不仅仅是你的感官,那就想出你认为创建它们所需要的提示,并将其放入一两个文本到图像生成器中。看看它们有多相似。此外,将提示符转到谷歌搜索中,以找到可能用于该视频的来源。

保持警惕!

从文本到视频的人工智能目前仍处于非常初级阶段,由于这项技术正在不断发展,避免上当的最好方法是与其一起进化。随着人工智能的进步和生成越来越逼真的镜头,我们需要采用新的工具和技术来有效地发现它。所以,现在还不能感到舒服!密切关注新的检测工具和真实性验证系统,并确保定期检查本文–我们将在新工具出现时对其进行更新。


骗子利用 AI 声音冒充亲人诈骗,该如何提高防范意识避免被骗?

随着科技的不断发展,人工智能(AI)技术也越来越成熟和应用广泛。然而,这也给骗子提供了新的机会。最近,有报道称一些骗子利用AI技术模仿他人声音,冒充亲人或朋友进行诈骗活动,造成了一定的社会问题。为了提高防范意识,本文将探讨如何避免被这种骗局所伤害。什么是AI声音诈骗?AI声音诈骗是指骗子使用人工智能技术来模拟某个人的声音,然后通过电话、短信等方式冒充亲人、朋友或其他身份进行诈骗行为。这种骗局往往涉及到金钱、个人信息等敏感内容,容易使受害者产生恐慌和混淆,并最终导致受害者的损失。如何预防AI声音诈骗?为了避免被AI声音诈骗所伤害,以下是一些预防措施:1. 确认对方身份:当接到陌生人的电话或短信时,应该先确认对方的身份。可以通过询问一些个人信息、回忆过去的经历等方式来确认对方身份是否真实。2. 避免泄露个人信息:不要轻易泄露个人敏感信息,如银行卡号、密码、身份证号码等。如果必须在电话或短信中提供这些信息,应该先确认对方的身份,并尽量避免使用公共场所的电话或无线网络。3. 熟悉常见骗局:了解常见的诈骗手段和方法可以帮助人们更好地识别和避免这种骗局。例如,一些常见的骗局包括假冒公检法、假扮亲戚朋友、虚假中奖信息等。4. 不要相信紧急情况:骗子往往会利用“紧急情况”来促使受害者立即采取行动,如转账、汇款等。因此,当接到这种电话或短信时,应该保持冷静,核实真伪后再采取行动。5. 更新安全软件:随着技术的发展,安全软件也在不断更新和升级。因此,为了保护个人信息和财产安全,应该定期更新自己的安全软件并进行相关设置。

6. 增强自身意识:切勿以小搏大,警惕因贪心和侥幸心理而被骗的情况。要保持警觉,增强自身意识和防范意识,时刻注意个人信息和财产安全。结论AI声音诈骗是一种新型的骗局,但我们可以采取一些措施来避免受到损失。通过确认对方身份、不泄露个人信息、了解常见骗局等方式,我们可以更好地预防这种骗局带来的危害。同时,增强自身意识也是非常重要的,时刻保持警觉,保护自己的个人信息和财产安全。

人工智能专业主要的课程是什么呀?

人工智能技术关系到人工智能产品是否可以顺利应用到我们的生活场景中。 在人工智能领域,它普遍包含了机器学习、知识图谱、自然语言处理、人机交互、计算机视觉、生物特征识别、AR/VR七个关键技术。 一、机器学习机器学习(MachineLearning)是一门涉及统计学、系统辨识、逼近理论、神经网络、优化理论、计算机科学、脑科学等诸多领域的交叉学科,研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,是人工智能技术的核心。 基于数据的机器学习是现代智能技术中的重要方法之一,研究从观测数据(样本)出发寻找规律,利用这些规律对未来数据或无法观测的数据进行预测。 根据学习模式、学习方法以及算法的不同,机器学习存在不同的分类方法。 根据学习模式将机器学习分类为监督学习、无监督学习和强化学习等。 根据学习方法可以将机器学习分为传统机器学习和深度学习。 二、知识图谱知识图谱本质上是结构化的语义知识库,是一种由节点和边组成的图数据结构,以符号形式描述物理世界中的概念及其相互关系,其基本组成单位是“实体—关系—实体”三元组,以及实体及其相关“属性—值”对。 不同实体之间通过关系相互联结,构成网状的知识结构。 在知识图谱中,每个节点表示现实世界的“实体”,每条边为实体与实体之间的“关系”。 通俗地讲,知识图谱就是把所有不同种类的信息连接在一起而得到的一个关系网络,提供了从“关系”的角度去分析问题的能力。 知识图谱可用于反欺诈、不一致性验证、组团欺诈等公共安全保障领域,需要用到异常分析、静态分析、动态分析等数据挖掘方法。 特别地,知识图谱在搜索引擎、可视化展示和精准营销方面有很大的优势,已成为业界的热门工具。 但是,知识图谱的发展还有很大的挑战,如数据的噪声问题,即数据本身有错误或者数据存在冗余。 随着知识图谱应用的不断深入,还有一系列关键技术需要突破。 三、自然语言处理自然语言处理是计算机科学领域与人工智能领域中的一个重要方向,研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法,涉及的领域较多,主要包括机器翻译、机器阅读理解和问答系统等。 机器翻译机器翻译技术是指利用计算机技术实现从一种自然语言到另外一种自然语言的翻译过程。 基于统计的机器翻译方法突破了之前基于规则和实例翻译方法的局限性,翻译性能取得巨大提升。 基于深度神经网络的机器翻译在日常口语等一些场景的成功应用已经显现出了巨大的潜力。 随着上下文的语境表征和知识逻辑推理能力的发展,自然语言知识图谱不断扩充,机器翻译将会在多轮对话翻译及篇章翻译等领域取得更大进展。 语义理解语义理解技术是指利用计算机技术实现对文本篇章的理解,并且回答与篇章相关问题的过程。 语义理解更注重于对上下文的理解以及对答案精准程度的把控。 随着MCTest数据集的发布,语义理解受到更多关注,取得了快速发展,相关数据集和对应的神经网络模型层出不穷。 语义理解技术将在智能客服、产品自动问答等相关领域发挥重要作用,进一步提高问答与对话系统的精度。 问答系统问答系统分为开放领域的对话系统和特定领域的问答系统。 问答系统技术是指让计算机像人类一样用自然语言与人交流的技术。 人们可以向问答系统提交用自然语言表达的问题,系统会返回关联性较高的答案。 尽管问答系统目前已经有了不少应用产品出现,但大多是在实际信息服务系统和智能手机助手等领域中的应用,在问答系统鲁棒性方面仍然存在着问题和挑战。 自然语言处理面临四大挑战:一是在词法、句法、语义、语用和语音等不同层面存在不确定性;二是新的词汇、术语、语义和语法导致未知语言现象的不可预测性;三是数据资源的不充分使其难以覆盖复杂的语言现象;四是语义知识的模糊性和错综复杂的关联性难以用简单的数学模型描述,语义计算需要参数庞大的非线性计算四、人机交互人机交互主要研究人和计算机之间的信息交换,主要包括人到计算机和计算机到人的两部分信息交换,是人工智能领域的重要的外围技术。 人机交互是与认知心理学、人机工程学、多媒体技术、虚拟现实技术等密切相关的综合学科。 传统的人与计算机之间的信息交换主要依靠交互设备进行,主要包括键盘、鼠标、操纵杆、数据服装、眼动跟踪器、位置跟踪器、数据手套、压力笔等输入设备,以及打印机、绘图仪、显示器、头盔式显示器、音箱等输出设备。 人机交互技术除了传统的基本交互和图形交互外,还包括语音交互、情感交互、体感交互及脑机交互等技术。 五、计算机视觉计算机视觉是使用计算机模仿人类视觉系统的科学,让计算机拥有类似人类提取、处理、理解和分析图像以及图像序列的能力。 自动驾驶、机器人、智能医疗等领域均需要通过计算机视觉技术从视觉信号中提取并处理信息。 近来随着深度学习的发展,预处理、特征提取与算法处理渐渐融合,形成端到端的人工智能算法技术。 根据解决的问题,计算机视觉可分为计算成像学、图像理解、三维视觉、动态视觉和视频编解码五大类。 目前,计算机视觉技术发展迅速,已具备初步的产业规模。 未来计算机视觉技术的发展主要面临以下挑战:一是如何在不同的应用领域和其他技术更好的结合,计算机视觉在解决某些问题时可以广泛利用大数据,已经逐渐成熟并且可以超过人类,而在某些问题上却无法达到很高的精度;二是如何降低计算机视觉算法的开发时间和人力成本,目前计算机视觉算法需要大量的数据与人工标注,需要较长的研发周期以达到应用领域所要求的精度与耗时;三是如何加快新型算法的设计开发,随着新的成像硬件与人工智能芯片的出现,针对不同芯片与数据采集设备的计算机视觉算法的设计与开发也是挑战之一。 六、生物特征识别生物特征识别技术是指通过个体生理特征或行为特征对个体身份进行识别认证的技术。 从应用流程看,生物特征识别通常分为注册和识别两个阶段。 注册阶段通过传感器对人体的生物表征信息进行采集,如利用图像传感器对指纹和人脸等光学信息、麦克风对说话声等声学信息进行采集,利用数据预处理以及特征提取技术对采集的数据进行处理,得到相应的特征进行存储。 识别过程采用与注册过程一致的信息采集方式对待识别人进行信息采集、数据预处理和特征提取,然后将提取的特征与存储的特征进行比对分析,完成识别。 从应用任务看,生物特征识别一般分为辨认与确认两种任务,辨认是指从存储库中确定待识别人身份的过程,是一对多的问题;确认是指将待识别人信息与存储库中特定单人信息进行比对,确定身份的过程,是一对一的问题。 生物特征识别技术涉及的内容十分广泛,包括指纹、掌纹、人脸、虹膜、指静脉、声纹、步态等多种生物特征,其识别过程涉及到图像处理、计算机视觉、语音识别、机器学习等多项技术。 目前生物特征识别作为重要的智能化身份认证技术,在金融、公共安全、教育、交通等领域得到广泛的应用。 七、VR/AR虚拟现实(VR)/增强现实(AR)是以计算机为核心的新型视听技术。 结合相关科学技术,在一定范围内生成与真实环境在视觉、听觉、触感等方面高度近似的数字化环境。 用户借助必要的装备与数字化环境中的对象进行交互,相互影响,获得近似真实环境的感受和体验,通过显示设备、跟踪定位设备、触力觉交互设备、数据获取设备、专用芯片等实现。 虚拟现实/增强现实从技术特征角度,按照不同处理阶段,可以分为获取与建模技术、分析与利用技术、交换与分发技术、展示与交互技术以及技术标准与评价体系五个方面。 获取与建模技术研究如何把物理世界或者人类的创意进行数字化和模型化,难点是三维物理世界的数字化和模型化技术;分析与利用技术重点研究对数字内容进行分析、理解、搜索和知识化方法,其难点是在于内容的语义表示和分析;交换与分发技术主要强调各种网络环境下大规模的数字化内容流通、转换、集成和面向不同终端用户的个性化服务等,其核心是开放的内容交换和版权管理技术;展示与交换技术重点研究符合人类习惯数字内容的各种显示技术及交互方法,以期提高人对复杂信息的认知能力,其难点在于建立自然和谐的人机交互环境;标准与评价体系重点研究虚拟现实/增强现实基础资源、内容编目、信源编码等的规范标准以及相应的评估技术。 目前虚拟现实/增强现实面临的挑战主要体现在智能获取、普适设备、自由交互和感知融合四个方面。 在硬件平台与装置、核心芯片与器件、软件平台与工具、相关标准与规范等方面存在一系列科学技术问题。 总体来说虚拟现实/增强现实呈现虚拟现实系统智能化、虚实环境对象无缝融合、自然交互全方位与舒适化的发展趋势

人工智能发展前景如何?

1、市场规模:中国人工智能行业呈现高速增长态势

人工智能产业是智能产业发展的核心,是其他智能科技产品发展的基础,近年来,中国人工智能产业在政策与技术双重驱动下呈现高速增长态势。根据中国信通院数研中心测算,2020年中国人工智能产业规模为3031亿元人民币,同比增长15.1%。中国人工智能产业规模增速超过全球。

注:中国信通院的市场规模根据IDC数据测算,统计口径与IDC一致,即包括软件、硬件与服务市场。

2、竞争格局:中国人工智能企业主要分布在应用层 占比超过80%

——中国人工智能企业全产业链布局完善

我国作为全球人工智能领域发展较好的地区,无论是人工智能领域的基础层、技术层、应用层,还是人工智能的硬件产品、软件产品及服务,我国企业都有涉及。在国内,除去讯飞等垂直类企业,真正在人工智能有所长进的巨头依然是网络、阿里、腾讯这三家。

——中国人工智能企业主要分布在应用层,占比超过80%

据中国新一代人工智能发展战略研究院2021年5月发布的《中国新一代人工智能科技产业发展报告(2021)》数据,截至2020年底,中国人工智能企业布局侧重在应用层和技术层。其中,应用层人工智能企业数占比最高,达到84.05%;其次是技术层企业数,占比为13.65%;基础层企业数占比最低,为2.30%。应用层企业占比高说明中国的人工智能科技产业发展主要以应用需求为牵引。

3、技术分布:中国人工智能企业核心布局的技术主要为大数据和云计算

从人工智能企业核心技术分布看,大数据和云计算占比最高,达到41.13%;其次是硬件、机器学习和推荐、服务机器人,占比分别为7.64%、6.81%、5.64%;紧随其后,物联网、工业机器人、语音识别和自然语言处理、图形图像识别技术的占比依次为5.55%、5.47%、4.76%、4.72%。

4、细分领域:深度神经网络领域为中国AI研究热门

根据清华大学人工智能研究院、与中国工程院知识智能联合研究中心联合发布的《人工智能发展报告2011-2020》,2011-2020年十大AI研究热点分别为深度神经网络、特征抽取、图像分类、目标检测、语义分割、表示学习、生成对抗网络、语义网络、协同过滤和机器翻译。

—— 更多行业相关数据请参考前瞻产业研究院《中国人工智能行业市场前瞻与投资战略规划分析报告》

点评

本文暂无评论 - 欢迎您

请填写验证码