【ChatGPT】ChatGPT闯入一条危险赛道 - 新图像生成功能极擅长伪造收据

　　上周，OpenAI推出了新的ChatGPT图像生成功能，用户们将可以利用GPT-4o模型生成更加准确、详细的图像，也可以用其编辑现有图像。

　　ChatGPT的新功能有没有让视效职员感到惊喜还有待观望，然而网友们似乎找到了一个不太正经的用法：伪造收据。

　　风险投资家Deedy Das在X上发帖称，他利用ChatGPT制作了一家牛排馆的假收据相片，并警告，现实世界中有许多时候依赖相片来进行验证，但游戏规则已经发生了改变。

　　Das还给出了生成这张图片的指令：请为我生成一张iPhone拍摄的相片，内容是木桌上有一张揉皱的收据凭据，账单金额是277.02美元，有正确的支出项且数字相加后正确。餐厅的称号是X，地址是Y。

　　而ChatGPT也很好地理解了这一命令，并在引发的图像中自己编造出了菲力牛排、牛眼肉、沙拉等适用于牛排餐厅的菜单，和符合逻辑的税费和消费内容。

　　在其它网友的测试中，ChatGPT还会在收据上添加更加真切的咖啡渍或是食物的污渍。这让假收据可能更难以被现实中的商家识别出来。

　　不过，也有人指出部分图像中存在明显的迹象表明其可能是虚构的，好比用逗号取代句号等。还有些时候，账单的钱财其实不正确。但这些瑕疵对于做假者来说属于十分简单就可以遮掩的问题。

　　这也引发了人们对该软件的道德风险担忧。OpenAI讲话人Taya Christianson对此回应称，所有图像都包含元数据，表明它们是由ChatGPT制作的。

　　她进一步强调，当用户违反其使用政策时，OpenAI会采取相应的行动。ChatGPT不断通过现实世界的使用和反馈进行学习，OpenAI的目标是给予用户尽可能多的创作自由，且虚构的AI收据可以被用于非欺诈性的场合，好比向人们传授金融知识，或是艺术品及广告方面。