Skip to main content

分类和回归是同一种问题吗

· 2 min read
散步

回归是开放空间,分类是固定空间 这个是基于结果来说的视角.

从训练看,分类的数据 在现实中也只是子集,本身也是一种特定场域的固定空间.

只是分类的答案是少数的固定空间 ,回归的答案是开放空间;

打个比方就是值域的不同; 值域不同会让他找到局部最小的语义表达,用来适配任务.

不过,无论分类回归还是降唯聚类,在小模型的时候其实就是相当于直接让模型学会了低维度表示下的方言(用于回归的权重方言,分类的方言)此时可以认为这些都是不同的权重范畴,差别较大,此时也不需要统一表示。

相同模型可以做各类任务 比如cnn都能多元回归。 但在有无监督预训练模型的情况下可以直接迁移到这些子任务,至于任务间学到的语义细节肯定还是有差,这是由于输出的空间和输入空间的差别带来的,但可以相信无监督预训练大模型能够拥有兼容这些任务的统一表示。

相同的网络层和架构,加上不同子任务所需的判别标准,就可以让权重学到对应需要的语义方言。 如今的大模型时代让我们可以通过迁移学习的方式快速学到恰当的方言表征,数据越大其本质越模糊,无论是哪类任务的底层语义都应该是相似的。

Loading Comments...