Discussion:
[問題] 傳輸檔案大小跟記憶體的關係
(时间太久无法回复)
IT工人
2007-07-07 11:33:31 UTC
Permalink
※ 引述《***@ptt.cc (╮(╯3╰)╭)》之銘言:
: 請問一下
: 一個java的網路程式
: 如果要處理傳輸100M的檔案
: 是不是表示要給jvm (-Xmx) 至少100M的記憶體?
: 另外 如果給jvm的記憶體大小超過電腦的實體記憶體大小
: jvm與os之間會自行以虛擬記憶體等其他方式達成嗎?
: 謝謝
可以收下來,就先存下來哦...

全部接完再存的話,就 memory 就要比較大
先存在 file 中吧
--
╭──── Origin:<不良牛牧場> bbs.badcow.com.tw (210.200.247.200)─────╮
│  ↘ Welcome to SimFarm BBS -- From : [221.169.195.110] │
╰◣◣◢ ◢◢《不良牛免費撥接→電話:40586000→帳號:zoo→密碼:zoo》 ◣◣◢ ─╯
a***@ptt.cc
2007-07-07 12:56:36 UTC
Permalink
※ 引述《***@bbs.badcow.com.tw (IT工人)》之銘言:
: ※ 引述《***@ptt.cc (╮(╯3╰)╭)》之銘言:
: : 請問一下
: : 一個java的網路程式
: : 如果要處理傳輸100M的檔案
: : 是不是表示要給jvm (-Xmx) 至少100M的記憶體?
不一定,看你怎麼寫的,不用設也能傳成功,試試看便知。
只不過先allocate 100M "好像"會比較快傳完吧...
: : 另外 如果給jvm的記憶體大小超過電腦的實體記憶體大小
: : jvm與os之間會自行以虛擬記憶體等其他方式達成嗎?
是的,但這部分主要是看OS的技術,通常都會自己吃SWAP
(不過這部分我只有在Linux上測確定會自己吃SWAP,Windows不確定...)
: : 謝謝
: 可以收下來,就先存下來哦...
: 全部接完再存的話,就 memory 就要比較大
: 先存在 file 中吧
是阿
我比較喜歡把資訊存放的Object直接做Serialization後直接丟
只不過java在傳送大量的檔案還是很沒效率 (應該是我不會用...)
例如我需要一次傳個4G、6G的XML檔案過去,JAVA常常就給我丟IO Exception了
可能我要再多研究Java NIO這一塊吧,看有沒有比較好的解決方案

現階段的作法是......
寫個cron job (crontab)定時定期用rsync把檔案給送過去 XD
用rsync的好處除了快以外,由於他只同步檔案彼此之間不同的部分內容
我那4G每次大概有一半是重複的吧,所以又更省時省力了,哈哈



--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 61.31.168.236
OooNnnSss
2007-07-09 14:56:16 UTC
Permalink
Post by a***@ptt.cc
不一定,看你怎麼寫的,不用設也能傳成功,試試看便知。
只不過先allocate 100M "好像"會比較快傳完吧...
是的,但這部分主要是看OS的技術,通常都會自己吃SWAP
(不過這部分我只有在Linux上測確定會自己吃SWAP,Windows不確定...)
: 可以收下來,就先存下來哦...
: 全部接完再存的話,就 memory 就要比較大
: 先存在 file 中吧
是阿
我比較喜歡把資訊存放的Object直接做Serialization後直接丟
只不過java在傳送大量的檔案還是很沒效率 (應該是我不會用...)
例如我需要一次傳個4G、6G的XML檔案過去,JAVA常常就給我丟IO Exception了
可能我要再多研究Java NIO這一塊吧,看有沒有比較好的解決方案
現階段的作法是......
寫個cron job (crontab)定時定期用rsync把檔案給送過去 XD
用rsync的好處除了快以外,由於他只同步檔案彼此之間不同的部分內容
我那4G每次大概有一半是重複的吧,所以又更省時省力了,哈哈
用 NIO 吧
http://java.sun.com/j2se/1.4.2/docs/guide/nio/

傳送大檔案 就是利用 channel 去實作 server 吧
http://www.onjava.com/pub/a/onjava/2004/09/01/nio.html
--
┌─────◆KKCITY◆─────┐ ◢ ◤  ★ 線上音樂新震撼 ★ ◢ ◤
│ bbs.kkcity.com.tw │ ^_^ /  隨選隨播免等待  KKBOX◤  ^_^ / 
└──《From:61.228.194.185 》──┘    ◤ http://www.kkbox.com.tw   ◤
--

Loading...