Tianke Youke

A sanctuary for secreting and rushing at night.

0%

references:

https://yang-song.net/blog/2021/score/

https://deeplearning.neuromatch.io/tutorials/W2D4_GenerativeModels/student/W2D4_Tutorial2.html#

https://lilianweng.github.io/posts/2021-07-11-diffusion-models/

Score-based models v.s. diffusion models

  • 一开始两者独立发展,所以有不同的理论依据和术语
  • 最后两者殊途同归:得到一样的模型

Score function

阅读全文 »

References:

https://zhuanlan.zhihu.com/p/45131536

https://hsinjhao.github.io/2019/05/22/KL-DivergenceIntroduction/

https://www.jiqizhixin.com/articles/2018-05-29-2

含义

  • 一句话:KL散度可以用来衡量两个分布之间的差异/匹配程度。但它并不是一个真正的度量或者距离,因为它不具有对称性。
  • 广义的散度指的是一类运算,它将矢量空间上的一个矢量场对应到一个标量场上,通俗的讲,就是输入一组矢量,返回一个标量。
  • 在统计学意义上来说,KL散度可以用来衡量两个分布之间的差异程度。若两者差异越小,KL散度越小,反之亦反。当两分布一致时,其KL散度为0。正是因为其可以衡量两个分布之间的差异,所以在VAE、EM、GAN中均有使用到KL散度。
  • 在信息论中,其可理解为编码系统对信息进行编码时所需要的平均附加信息量。

定义

阅读全文 »

今天逛 github,发现了一些很 amazing 的chatgpt applications,摘录一些感兴趣的精华在此。真是感慨:LLM 以来天天风云变幻,弄潮儿在前面兴风作浪,我在后面望其项背……

  1. (Useful) egoist / openai-proxy

    用 Vercel 开一个小的 Proxy server,转发 gpt API,这样可以绕开有些国家地区的 IP 限制

  2. BuilderIO / ai-shell

    在命令行里使用 chatgpt,把自然语言转化成 Linux commands,命令是 ai [texts]

  3. eli64s / readme-ai

    一个轻量的 script,根据 repository 生成酷炫的 readme 文件

  4. efJerryYang / chatgpt-cli

    命令行 chatgpt client

  5. yufeikang / ai-cli

    另一个命令行 chatgpt client(实测的时候再对比一下这俩)

  6. mukulpatnaik / researchgpt

    输入论文 PDF 文件,然后和 gpt 聊论文。一个用 Flask 开发的 web client 貌似,可以再仔细看一下咋实现的,挺有意思

  7. (⭐️ Amazing) AntonOsika / gpt-engineer

    很方便安装,pip install 就好了!直接通过描述 + AI 追问 + 补充细节,生成一个代码项目

  8. (⭐️ Amazing) Yidadaa / ChatGPT-Next-Web

    好像很实用的 web GUI!一键部署到 Vercel。我找这玩意主要是为了直接用 API 访问 GPT-4,就不用订阅每个月的 ChatGPT Plus 了,后者太贵了,也用不了那么多

今天,恩施的傍晚似乎没有夕阳。天空是深蓝色,深山上有几只黑鸟掠过。厚重的狗叫声。我闻到一种使我感到悲戚的气味,或许是和过去某种悲戚的回忆联系起来。具体回忆内容倒也记不清。明天我要走了,我说要吃点辣的,去了南边又没有了。结果还是去吃了潮汕牛肉。妈妈今天比较易怒,我看得到她的伤感。

回国,这个词对我来说不算什么,身处国内的时候,自己是没有概念的。只有在国外的时候,才对国内有概念。这一点真是讽刺。国内的时间匆匆而过,以前会为了在国外多待几年而争取,争取到了又雀跃。现在真要待那么多年了,才感到自己正坐在什么飞驰而远去的列车上。

人生在世,奔头这个词,我是想解构它的。人活着不为了什么,活就活了。可是我分明在努力什么,在抓住些什么。嘴硬罢了,谁能超凡脱俗,没点惦念的东西?亲人,向往的某种生活,成就感,这就是我的奔头。只是:停在原地原来是一种幸运,也是一种特权。

奶奶身体还好,但心态不好。健忘、固执,自闭,悲观。她几乎没有什么盼头了。她觉得活得失败,活得不好。她觉得如今脸上无光。她说:

我最痛恨别人,半熟不熟的人见面,跟你打招呼,问你家里近况怎么样。我很生气,简直想骂回去。可是你骂了吧,人家觉得你是神经病。可是我要怎么回答呢?我这两个儿子,一个工作都丢了,一个身体又那样不好。

我命苦啊。我从小家里穷,也没人管我。13岁就出去工作养活自己了。跟了你爷爷,过的都是苦日子。他一个月三十四块五角钱,二十块钱给他爸妈,雷打不动的。家里饭都吃不起了,也要给。剩下十四块五,十块钱给我,他留四块五。抽最差的烟,走得那么早。

我要管家里所有事。他什么也不管啊,一日三餐,他妈,两个儿子,去河边洗衣服。我还要上班。我每天都好累。

阅读全文 »

Pytorch3D Rendering 的一些疑难杂症

有哪些?

  1. 有了相机内参 K,而render又需要NDC坐标系,那要怎么定义相机?
  2. 图像的黄蓝色反了?
  3. render 完的图像锯齿很严重?怎么抗锯齿(Antialiasing)?
  4. 皮肤表面反光太强,光滑得像镜面一样,怎样更自然?
  5. 怎么物体只剩半截,更远的部分似乎被截掉了?
  6. 没解决的问题:PBR(physical based rendering)
阅读全文 »

A camera is a mapping between the 3D world (object space) and a 2D image.

In general, the camera projection matrix P has 11 degrees of freedom: \[ P=K[R\ \ \ t] \]

Component # DOF Elements Known As
K 5 \(f_x, f_y, s,p_x, p_y\) Intrinsic Parameters; camera calibration matrix
R 3 \(\alpha,\beta,\gamma\) Extrinsic Parameters
t (or \(\tilde{C}\)) 3 \((t_x,t_y,t_z)\) Extrinsic Parameters

3D world frame ----- R, t ----> 3D camera frame ------ K -----> 2D image

阅读全文 »