我做了很多统计工作,并使用Python作为我的主要语言.我使用的一些数据集虽然可以占用20GB的内存,但这使得使用numpy,scipy和PyIMSL中的内存函数对它们进行操作几乎是不可能的.统计分析语言SAS在这里具有很大的优势,因为它可以对来自硬盘的数据进行操作而不是严格的内存处理.但是,我想避免在SAS中编写大量代码(出于各种原因),因此我试图确定我使用Python的选项(除了购买更多的硬件和内存).
我应该澄清一下像map-reduce这样的方法对我的大部分工作都无济于事,因为我需要对完整的数据集进行操作(例如计算分位数或拟合逻辑回归模型).
最近我开始玩h5py并认为这是我发现允许Python像SAS一样操作磁盘上的数据(通过hdf5文件),同时仍然能够利用numpy/scipy/matplotlib等的最佳选择.我想听听是否有人在类似设置中使用Python和h5py以及他们发现了什么.有没有人能够在迄今为止由SAS主导的"大数据"设置中使用Python？
编辑:购买更多硬件/内存当然可以提供帮助,但从IT角度来看,当Python(或R或MATLAB等)需要在内存中保存数据时,我很难将Python出售给需要分析大量数据集的组织.SAS继续在这里有一个强大的卖点,因为虽然基于磁盘的分析可能会更慢,但您可以放心地处理大量数据集.因此,我希望Stackoverflow可以帮助我弄清楚如何降低使用Python作为主流大数据分析语言的感知风险.
我是使用Microsoft开发工具的新手,但过去几周一直在使用Visual Studio 2010,.NET 4和C#.我昨天遇到了一个问题,就像我从一开始就成功地创建一个新项目一样:右键单击解决方案资源管理器→添加引用中的项目,用于打开此对话框:
旧对话框http://img514.imageshack.us/img514/8978/oldaddreferencedialogue.jpg
在没有新项目的几周后,我昨天创建了一个项目,并获得了一个新的"添加引用"对话框.并尝试添加我已添加数周的相同dll,现在导致此处出现错误:
新对话http://img692.imageshack.us/img692/2074/newaddreferencedialogue.png
因此,在经历了痛苦的一天试图确定原因之后,我觉得它与我在参考路径中的#对话中的新对话框有关.当我删除#一切按预期工作.考虑到微软在名称中有两种带有#的.NET语言,我很惊讶这个问题一直困扰着人们(我多年来听说过这个问题,但直到最近我才对微软的工具做过多次,所以当然我做了不记得了.)
来自Visual Studio新手的问题:
在路径中不使用#是常识吗？
当我的同事使用相同的VS版本仍然具有处理路径中的#的旧对话框时,我如何/为什么会得到这个新的"添加引用"对话框？
