🧠 2022.12.29 读《千脑智能》笔记
type
Post
status
Published
date
Dec 29, 2022
slug
2022.12.29 读《千脑智能》笔记
summary
2022.12.29 读《千脑智能》笔记
tags
读书
思考
category
胡言乱语系列
icon
password
宇宙中唯一知道宇宙存在的东西竟是漂浮在我们脑海中重量不足1.4千克的细胞团,这实在太令人惊讶了。这让我想起了一个古老的疑问:如果一棵树在森林中倒下了,而并没有人听到它倒下的声音,那这棵树倒下时有没有发出声音呢?同样,我们可以提出疑问:如果宇宙的出现和消失,没有大脑知道,那么宇宙真的存在吗?谁知道呢?存在于你头骨中的几十亿个细胞不仅知道宇宙的存在,而且知道它是辽阔而古老的。这些细胞已经掌握了一个“世界模型”,据我们所知,这些知识在其他任何地方都不存在。 附 Numenta 公司官网地址:https://www.numenta.com/
1. 关于作者
一个只有在美国这种环境才能出现的人才。
杰夫·霍金斯 1957 年出生于美国,1979 年从康奈尔大学电子工程专业毕业后进入英特尔公司工作,受基因双螺旋结构的发现者弗朗西斯·克里克影响,开始寻找大脑运行背后的理论框架,想转到相关岗位但失败了。后来申请了麻省理工学院人工智能实验室的博士研究生,希望做“以大脑理论为基础创造智能机器”,被否定,于是又转向加州大学伯克利分校,1986 年被神经科学博士研究生项目录取,研究“新皮质如何进行预测”。但找不到这个方向合适的导师,于是他在图书馆泡了 2 年,阅读了过去 50 年神经科学领域最重要的数百篇论文,以及跟各种心理学家、语言学家、数学家和哲学家探讨对大脑和智能的看法。在知道通过博士研究实现不了自己的梦想后,他于 1988 年返回工业界,带着 PalmPrint 专利 (一种手写识别的软件算法) 加入 GRID 公司,开发出第一台平板电脑 GridPad。1992 年,自己创办 Palm 电脑公司,生产的掌上电脑产品 Pilot 获得了巨大成功。1998 年,创办 Handspring 公司。2002 年,他用积累的资金成立红木神经科学研究所,但科学家更愿意聚焦于力所能及的新发现,而不是霍金斯的大脑理论,于是霍金斯把红木神经科学研究所捐给了加州大学伯克利分校,自己在 2005 年重新创立了研究公司 Numenta,自己带领团队专注于大脑理论研究。2010 年,他提出一种皮质柱预测模型,解释了神经元如何进行预测,并开发了相应的开源软件 HTM,用于股票市场异常检测等领域。2016 年,他又提出千脑理论,即新皮质中的地图状参考系学说。
🎯 2022.12.05 广告推荐vs内容推荐
type
Post
status
Published
date
Dec 5, 2022
slug
2022.12.05 广告推荐vs内容推荐
summary
2022.12.05 广告推荐vs内容推荐
tags
推荐
算法
广告
category
算天算地系列
icon
password
虽然搜广推听上去好像是一个东西,背后的推荐技术也相差无几,但是在优化的思路上却是差异巨大,我们简单盘一下这个事情。简单来说结论就是,广告推荐的本质是提升转化效率,内容推荐的本质做激励策略。
广告推荐
互联网广告的本质就是卖流量,核心诉求是广告收入,整体的算法优化方向是比较单纯的,在满足底线要求的情况下,自然 ECPM 高者得流量。而 ECPM 这个东西,其实是一个标准化的规则,就是算钱,无论是什么行业,无论是什么转化目标,统统都能算一个 ECPM 进行比较,充分体现了货币是一般等价物的经济学常识。于是广告推荐就要想办法尽可能精准地预估 ECPM,通过拆解 ECPM,来分部分地提升流量售卖的效率。
在这个约束下,广告推荐的算法同学主要关心的就是推荐的效率指标,比如点击率、转化率等等,可做的事情在广度上相对有限,只能在深度上不断挖掘,于是业界比较有效的一些模型结构、特征和最佳实践很多都是在广告推荐领域被最先研究出来的。
内容推荐
🐕 2022.11 胡言乱语
type
Post
status
Published
date
Nov 1, 2022
slug
2022.11 胡言乱语
summary
2022.11 胡言乱语
tags
读书
思考
category
胡言乱语系列
icon
password
2022.11.30 十一月读书总结
2022.11.30 读《毫无意义的工作》
随着技术的进步,到 20 世纪末,我们每周的工作时间将缩短到 15 个小时。 ——经济学家凯恩斯在 1930 年预言 在共产主义社会里,任何人都没有特殊的活动范围,而是都可以在任何部门内发展,社会调节着整个生产,因而使我有可能随自己的兴趣今天干这事,明天干那事,上午打猎,下午捕鱼,傍晚从事畜牧,晚饭后从事批判,这样就不会使我老是一个猎人、渔夫、牧人或者批判者。 ——马克思和恩格斯《德意志意识形态》
🦀 2022.11.19 折腾免费域名-小白秘籍
type
Post
status
Published
date
Nov 19, 2022
slug
2022.11.19 折腾免费域名-小白秘籍
summary
2022.11.19 折腾免费域名-小白秘籍
tags
工具
建站
category
胡言乱语系列
icon
password
0. 搭一个博客,部署在 Vercel 上
你的网站如果部署在 vercel 上,vercel 有为你的站点提供一个
*.vercel.app
的域名,但 vercel 的这个官方域名在大陆被墙,所以需要绑定自己的域名。而自己的域名,你也是可以用免费的,不用花一分钱就能拥有,但是不好的地方是,由于这些免费域名被各种黑灰产用烂了,所以一般的搜索引擎都不收录的,而且有一些免费域名在大陆也是被墙的,需要仔细挑选一下。
下面就为小白同学们详细一步步介绍怎么折腾这个免费域名。逻辑很简单,你在 Freenom 申请一个免费域名,然后托管到 CloudFlare 上,让其为你做 DNS 解析到 Vercel 上,然后 Vercel 后台配置指向你的站点,收工。
🎯 2022.11.16 再读 fb embedding-based 召回的老文章
type
Post
status
Published
date
Nov 16, 2022
slug
2022.11.16 再读 fb embedding-based 召回的老文章
summary
2022.11.16 再读 fb embedding-based 召回的老文章
tags
算法
召回
推荐
category
算天算地系列
icon
password
Embedding-based Retrieval in Facebook Search, 2020
文章里,Facebook 针对社交搜索场景的向量召回,介绍了从样本选择、特征工程、模型设计、离线评估、在线 Serving 的全流程,当然最有意思的部分还属“样本选择”部分,召回本来就是负样本的艺术,这篇文章讲的很接地气,类似 google 的很多文章,都让人感觉很踏实,大道至简,贴合业务,解决实际问题,不搞花里胡哨的东西。如今 2 年多过去,无意中从书架上看到,再读一遍此文,又有不一样的感受,在原来的理解基础上补充了近几年的一些想法。
🎯 2022.11.06 读论文: PDN > I2I + U2I
🎼 2022.11.04 几首有趣的赋格曲
🐔 2022.10 胡言乱语
type
Post
status
Published
date
Oct 1, 2022
slug
2022.10 胡言乱语
summary
2022.10 胡言乱语
tags
读书
category
胡言乱语系列
icon
password
2022.10.31 如何找寻真正的兴趣?
很多时候在做的事情并不是想做的,即使想做的事情也大部分是因为能获得“成就感”而非真正想做,重视结果,忽略了过程,已经分不清自己喜欢的是那件事本身,还是做好那件事所带来的种种收益了。而当遇到困难,成就感出不来时,兴趣就瞬间消散了。
真正的兴趣爱好是不功利的,无论你是否做得好,你都会想做的,就是那件你十分享受其中过程,而毫不在乎结果的事。
以某人的特质,不太聪明,不喜欢张罗事,不喜欢管人,不喜欢被人管,不喜与人瞎扯,没有太多创造力,但做事细致认真,适合做一些工匠类的事情,但不能上升到艺术家那种。比如木匠、捏泥人、老实写代码、电工、水管工、装修师傅、专业搭积木、开挖掘机等。