何凯明新作(陈立杰和何凯明)

清华计算机系10人有9人留校深造！这个看着是好消息，说明顶尖学子越来越深刻国内的教学和科研环境，因而愿意留下来在国内深造，而不是像过去一样一昧地跑到海外。就我个人观点而言，长期来看还是弊大于利。就我从事的人工智能领悟而言，虽然看起来中国和美国已经并驾齐驱的，但是懂行的人都知道中国强在应用端，对于基层的理论体系仍然是一塌糊涂。现在都2021年了，目前比较流行的深度学习基础模型，如NLP的BERT、BART、T5、GPT，没有一个是国内学者提出的。诚然，在这些领域，国内现在还处于摸着美国??过河的阶段，仍然需要去海外学习。这些人即使只回来一半，对国内也是大有裨益的，而且再出现李飞飞、何凯明这样的业界巨匠级别的华人学者，更是行业之幸！

AIGC的开启了商业化之路，AIGC是继 UGC、PGC 之后新型利用AI技术自动生成内容的生产方式。简单点说是用 AI 生成内容的技术，让 AI 完成原本只有人类才能做到的原创性工作。近日，国外媒体报道微软Microsoft公司将投资OpenAI，引起ChatGPT+AIGC赛道热情，微软将对旧金山非盈利机构OpenAI投资约10亿美元。与此同时，双方还达成一项多年合作协议，在微软的Azure云计算服务平台上开发人工智能超级计算技术。具行业内部人士分析，微软公司此次投资将加剧市场竞争和行业发展。因为，近年来谷歌对AI里程碑式节点影响较大。其中图神经网络GNN主要提出者Ian Goodfellow后来加盟谷歌，transformer模型、Alphafold系列是谷歌系率先影响AI市场的技术（谷歌或deepmind），GPT3与chatGPT是openAI率先影响市场技术（而openAI创始人Ilya Sutskever是Geoffrey Hinton的学生，Hinton从学术界加盟谷歌大脑），ResNet主要提出者何凯明曾从微软加盟脸书。可见，微软投资openAI,是增强自己AI影响力、抗衡谷歌的较好机会。这也是微软对chatGPT的投入与协同更加热衷、Facebook与谷歌相对平淡的一个原因。#何凯明简介#

深度学习算法在图像识别与分类中的应用与性能评估摘要：随着计算机视觉领域的快速发展，深度学习算法在图像识别与分类任务中取得了显著的成果。本文将介绍深度学习算法在图像识别与分类中的应用，并对其性能进行评估。我们将首先介绍深度学习的基本原理和常用的深度学习算法，然后详细探讨深度学习在图像识别与分类中的应用，包括目标检测、图像分类和语义分割等任务。最后，我们将介绍性能评估的指标和方法，并探讨深度学习算法在图像识别与分类中的性能评估。深度学习算法深度学习是一种基于人工神经网络的机器学习方法。它通过多层次的神经网络模型来学习输入数据的表征，从而实现对数据的自动学习和抽象。常用的深度学习算法包括卷积神经网络（Convolutional Neural Network，CNN）、循环神经网络（Recurrent Neural Network，RNN）和生成对抗网络（Generative Adversarial Network，GAN）等。深度学习在图像识别与分类中的应用深度学习算法在图像识别与分类中有着广泛的应用。其中，目标检测是指在图像中准确定位和识别多个不同类别的目标。目标检测任务在许多应用场景中都具有重要意义，如自动驾驶、安防监控等。深度学习算法通过引入区域提议网络（Region Proposal Network，RPN）和多尺度特征融合等技术，能够在目标检测任务中取得优秀的性能。图像分类是指将图像分到不同的类别中。传统的图像分类方法通常需要手工设计特征提取器和分类器，而深度学习算法能够自动学习图像的高级表征，从而实现更准确的分类结果。卷积神经网络（CNN）是深度学习中常用的用于图像分类的算法。CNN通过多层卷积和池化操作，逐渐提取图像的特征，并通过全连接层进行分类。深度学习算法通过端到端的训练方式，能够直接从原始图像数据中学习到更有判别力的特征，从而取得较高的分类准确率。除了目标检测和图像分类，深度学习算法在图像识别与分类中还有其他重要的应用，如语义分割和图像生成等。语义分割是将图像中的每个像素进行分类，从而实现对图像的像素级别的理解和分割。深度学习算法通过引入全卷积网络（Fully Convolutional Network，FCN）等结构，能够在语义分割任务中取得较好的效果。图像生成是指通过学习给定的图像数据，生成新的具有相似特征的图像。生成对抗网络（GAN）是深度学习中常用的用于图像生成的算法，它通过生成器和判别器的对抗学习，能够生成逼真的图像。性能评估指标和方法为了评估深度学习算法在图像识别与分类中的性能，需要使用合适的指标和方法进行评估。常用的性能评估指标包括准确率、精确率、召回率和F1值等。准确率是指分类正确的样本数占总样本数的比例，精确率是指在所有预测为正例的样本中，真正为正例的比例，召回率是指在所有真正为正例的样本中，被正确预测为正例的比例，F1值是综合考虑了精确率和召回率的指标。除了指标评估，还可以使用交叉验证、混淆矩阵和ROC曲线等方法进行性能评估。深度学习算法的性能还受到许多因素的影响，如网络结构的选择、数据集的质量和规模、超参数的调整等。对于网络结构的选择，需要根据具体的任务和数据特点进行调整。数据集的质量和规模对于深度学习算法的性能影响很大，因此，选择合适的数据集进行训练和测试非常重要。同时，为了准确评估算法的性能，还需要进行良好的数据预处理和数据增强，以提高模型的鲁棒性和泛化能力。超参数的调整也是提高算法性能的重要环节，可以通过网格搜索、随机搜索等方法来寻找最佳的超参数组合。随着深度学习算法的不断发展和改进，我们可以期待在图像识别与分类领域取得更好的性能和效果。参考文献：Krizhevsky，A.，Sutskever，I.和Hinton，G. E.（2012）。使用深度卷积神经网络进行ImageNet分类。在神经信息处理系统的进展中（第1097-1105页）。Long，J.，Shelhamer，E.和Darrell，T.（2015）。用于语义分割的全卷积网络。在计算机视觉和模式识别的IEEE会议论文集中（第3431-3440页）。何凯明，张学工，任少平和孙剑峰（2016）。深度残差学习用于图像识别。在计算机视觉和模式识别的IEEE会议论文集中（第770-778页）。

ResNet（Residual Network）于2015年由何凯明等人在论文 "Deep Residual Learning for Image Recognition" 中提出的深度卷积神经网络，ResNet在2015年刷新了多项计算机视觉任务的性能记录，例如在ImageNet大规模视觉识别挑战赛（ILSVRC）中，ResNet将分类错误率降低到了当时的最低水平，体现出了极其卓越的性能，而这都归因于其一个重大创新：残差连接（Residual Connection）。ResNet一经提出，就引发了诸多关注，因为他极大改善了深度神经网络的致命问题—梯度消失。在此之前，尽管深度卷积神经网络得到了极大的发展，涌现了诸多卓越的模型如Googlenet、VGG等，但梯度消失问题始终不能有好的改善，随着网络深度增加，模型的性能逐渐饱和甚至下降，这就使得当时的网络层数被限制在几十层，性能的提升到达了瓶颈。然而，ResNet通过引入残差连接极大改善了梯度消失问题，使得神经网络轻松突破百层，打破了原有的性能瓶颈。这个创新性的设计在神经网络领域产生了广泛深远的影响，启发了许多后续的研究和改进都通过引入残差连接来提高模型的性能，也成为了很多应用如目标检测、语义分割等的骨干网络。ResNet还对后续研究的启发意义重大，许多研究者在ResNet的基础上进行改进和优化，提出了更多高性能的神经网络结构。例如DenseNet、EfficientNet等。ResNet 的主要创新如下：1. 残差连接（Residual Connection）：ResNet 引入了一种名为“短路连接”（Skip Connection）的结构，允许神经网络的某一层直接将输入传递给更深层的输出，从而形成残差连接。这种结构使得梯度在反向传播过程中能够更有效地传播，有助于缓解梯度消失和梯度爆炸问题，如图1所示。2. Bottleneck结构：为了减少计算量，ResNet 引入了一种名为“瓶颈”（Bottleneck）的结构。在这种结构中，残差单元包含三个卷积层，分别是1x1、3x3 和 1x1。这种设计有助于减少模型的参数量和计算复杂度，如图1所示。3. 全局平均池化（Global Average Pooling）：不同于之前的网络，在最后的分类层之前，ResNet 直接使用全局平均池化代替了全连接层，极大降低模型的参数量和过拟合风险。ResNet 有多个不同深度的变体，如ResNet-18、ResNet-34、ResNet-50、ResNet-101和ResNet-152等，如图2所示。数字代表神经网络的层数。据说还有人尝试过接近千层的版本，ResNet居然还可以良好运行，不愧为深度卷积神经网络的一代王者。

转载请注明出处阿文说说网 » 何凯明新作(陈立杰和何凯明)