許多庫包裝了一些外部通信。無論是類 REST 的 API、消息隊列、數(shù)據(jù)庫、郵件服務器還是其他東西。因此,您必須有一些超時時間——用于連接、讀取、寫入或空閑。遺憾的是,許多庫的默認超時設置為“0”或“-1”,這意味著無窮大。
這是一個非常無用甚至有害的默認設置。沒有一個實際用例讓您希望永遠等待資源。并且有很多情況會發(fā)生這種情況,例如另一端卡住了。在過去的 3 個月里,我有 2 個庫的默認超時為“無窮大”,最終導致生產(chǎn)問題,因為我們忘記了正確配置它們。有時您甚至看不到問題,直到線程池耗盡。
永遠不要將“Inifinty”作為默認超時。因為,您的庫會導致許多生產(chǎn)問題。還要注意,有時底層的 HTTP 客戶端(或 Socket)沒有合理的默認值——在包裝它時修復它仍然是你的工作。
您應該提供什么默認值?合理的。5秒可以嗎?您可能說您不想對用戶強加任意超時。在這種情況下,我有一個更好的建議:
明確要求構(gòu)建“客戶端”超時(因為這些庫通常是某些外部系統(tǒng)的客戶端)。例如?Client.create(url, credentials, timeout)
?。如果沒有提供超時,則失敗。這使得客戶端的用戶積極考慮他們的用例什么是好的超時 - 不強加任何東西,最重要的是 - 不會冒生產(chǎn)中連接卡住的風險。此外,您仍然可以向他們提供“默認”選項,但仍讓他們明確選擇它。例如:
Client client = ClientBuilder.create(url)
.withCredentials(credentials)
.withTimeouts(Timeouts.connect(1000).read(1000))
.build();
// OR
Client client = ClientBuilder.create(url)
.withCredentials(credentials)
.withDefaultTimeouts()
.build();
上面的構(gòu)建器應該要求設置“timeout”,如果兩個方法都沒有被調(diào)用,則應該失敗。即使你不提供這些選項,至少有一個指定超時的好方法——一些庫需要反射來設置其底層客戶端的超時。
我相信這是那些看起來很小但在現(xiàn)實世界中會導致很多問題的問題之一。它可以(并且應該)由庫/客戶端設計者解決。
但由于情況并非總是如此,我們必須確保每次使用 3rd 方庫時都配置超時。