他看了一會兒關於作業系統的英文原版專著,隨後登入海外代理,打開了美股交易軟體。
此時正好是美股盤前交易時段。
趙陽開啟了超凡心算狀態,迅速接入納斯達克的資料流。
在半個小時的盤前交易中,他敏銳地捕捉到了兩隻科技股的定價偏差,利用五十萬美金的短線賬戶進行了三次快進快出的操作。
賺取了大約八萬美元的利潤後,趙陽關閉了交易軟體。
而此時,另外一邊。
大洋彼岸。
美國,加利福尼亞州,拉霍亞。
這裡是全球計算機科學領域的聖地之一。NIPS(神經資訊處理系統大會,後改名為NeurIPS)組委會的審稿辦公室就設在這裡。
距離本屆NIPS大會的截稿日期還有最後兩天。
大會的資深編輯兼審稿委員查理斯,正端著一杯美式咖啡,坐在電腦前。
他的郵箱裡每天都會塞滿來自全球各大高校計算機系和頂尖科技公司的投稿郵件。
查理斯如往常一樣,按照收件順序,機械地清理著郵箱裡的稿件。
“又是關於同步梯度下降引數最佳化的論文……缺乏底層創新,拒稿。”
查理斯一邊嘟囔著,一邊快速掃過幾篇論文的摘要,將其歸入“拒稿候選項”的資料夾。在目前的硬體算力瓶頸下,大家都在現有的框架裡打轉,很難看到讓人眼前一亮的突破。
他點選滑鼠,打開了下一封未讀郵件。
發件人:Yang Zhao。
查理斯對這個名字沒有任何印象。在計算機科學和深度學習這個圈子裡,這顯然是一個完全陌生的新人。
郵件正文極其簡短,只有一句話:
“解決非同步隨機梯度下降中梯度陳舊問題的一種新框架。”
查理斯看到這句話,眉頭微微挑起。
眼神之中閃過一絲好奇。
“解決非同步SGD的梯度陳舊問題?這倒是有些稀奇了!”
非同步SGD的梯度陳舊問題,是目前整個分散式深度學習領域公認的最大痛點。
非同步演算法雖然能解決節點間的通訊等待時間,但由於各節點計算速度不同,慢節點傳回的“陳舊梯度”會嚴重破壞全域性模型的收斂方向。無數頂尖實驗室都在嘗試解決,但從來沒有實驗室拿出來過相對完美的底層架構。
這個投稿人,口氣未免太大了些。
而且這個投稿人,並不是什麼知名人物——至少在計算機深度學習領域是這樣的。
本想首接划走,但稍稍遲疑了一下,抱著萬一的態度,查理斯點開了郵件下方的PDF附件。
》架框式散分步同非型新的練訓路網經神模規大超於用種一《:題標文論
。分部言引和要摘的文論看翻始開的意隨度態,啡咖口一了喝斯理查
。後鐘分一
。杯啡咖的裡手了下放他
。後鐘分十
。不一,式公導推的制機罰懲間時態於關中文論著盯睛眼的他,多很了肅嚴表,多很了首坐的斯理查
”……型模學數的重權減衰為作差間時引種這“
。滾鼠斯理查








