你有遇到自己脑袋突然grokking过吗?
“Grokking”时刻:从懵懂到顿悟的认知飞跃
1. 关键信息
- 用户分享了在学习英语过程中,经历了一个从完全听不懂到突然能理解整句的“grokking”时刻。
- 这种“grokking”被比喻为人工智能系统的“I completely get it”现象,以及大脑的训练和强化学习过程。
- 另一位用户也表示有过类似“突然开窍”的经历,通过多次尝试和等待,在没有增加新知识的情况下逐渐理解。
2. 羊毛/优惠信息
- 无
3. 最新动态
- 无
4. 争议或不同意见
- 无明显争议
5. 行动建议
- 思考并分享自己生活中经历过的类似“grokking”时刻。
前提:
If you don't know what grokking is, watch this
https://www.youtube.com/watch?v=D8GOeCFFby4&t=412s
最近玩local model读了一些paper想起来了又一个童年记忆
我小学来的美国,所以学英语完全是靠immersion
最初一段时间的确痛苦,什么都不懂。痛苦了好几个月
到美国半年后,我有一天看电视时突然注意到我都可以听懂了。不是大了刚学语言一样个别字能听懂,是整句整句的,一下就懂,全部都懂。
当时我已经有点meta awareness那是比较神奇的一刻,怎么突然从不懂到懂,吃了一惊,所以记住下来了
人工智能系统有类似的现象,I completely get it,人的大脑的training和reinforcement training应该已经有不少对应类比
但是做为一个 self aware intelligence 来说,grokking那一刻真神奇
你们有过吗?
遇到过,突然开窍的感觉
有时候是第一次不会,等一段时间,第二次不会,等一段时间,第三次就懂了。也没有增加什么前置知识,但是逐渐理解一切
我其实觉得原理就是 记住了,勾起回忆不再需要大量时间