100 Best GitHub: Machine Learning

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

• lisa-lab/pylearn2 .. A Machine Learning library based on Theano
• young-geng/MLTK .. Machine Learning Toolkit in Python
• scikit-learn/scikit-learn .. scikit-learn: machine learning in Python
• film42/knn-property-categorization .. Simple nearest neighbor machine learning challenge
• rasbt/pattern_classification .. A collection of tutorials and examples for solving and understanding machine learning and pattern classification tasks
• josephmisiti/awesome-machine-learning .. A curated list of awesome Machine Learning frameworks, libraries and software.
• wq19901103wq/machine-learning .. a simple lib for machine learning
• young-geng/MLClass .. Coursera machine learning class
• arizvisa/ataf .. The advanced traffic analysis framework is capable of extracting metadata from network traffic or a byte-stream. This allows one to perform analysis or apply techniques such as machine learning to any information inferred from a network sensor. The framework is multiprocess capable and platform…
• kskk02/Fraud_Detector .. Fraud Detection using ensemble of Statistical, Network analysis and Machine learning approach.
• zhipengtian/MachineLearning ..
• danielyule/hearthbreaker .. A Hearthstone: Heroes of WarCraft Simulator for the purposes of Machine Learning and Data Mining
• williamSquared/Machine-Learning ..
• joejam99/octave_joe .. stanford_machine_learning_class
• ahawker/machine-learning-coursera .. Machine Learning (Spring 2014)
• Axnct/Machine-Learning ..
• OryxProject/oryx .. Oryx 2 (incubating): Lambda architecture on Spark for real-time large scale machine learning
• satojkovic/ml-algorithms-simple .. A collection of machine learning algorithms in python
• shogun-toolbox/shogun .. The Shogun Machine Learning Toolbox (Source Code)
• myui/hivemall .. Scalable machine learning library for Hive/Hadoop
• GauriJagatap/Machine-Learning–MATLAB- ..
• mli/parameter_server .. A distributed machine learning framework.
• Aweeeezy/ML_Twitter_Bot .. Experimental TwitterFeed for machine learning purposes
• apatti/apatti_ml .. Machine learning playground
• xianshixie/Machine-Learning .. Linear Regression, Classifier, Clustering, etc.
• Atcold/Machine-learning-with-Torch .. Collection of simple machine learning algorithms for Torch
• pftq/QLearner .. A practical, generalized application of various machine learning algorithms for C# programming.
• AwokeKnowing/ticbrain .. Practice machine learning by making tic-tac-toe brains
• wmac/jshark .. Java Adaptation of Shark Machine Learning Library
• Longhorns747/BeerRecommender .. A website to recommend beers based on ingredients. Backed by an Azure powered Machine Learning model.
• michaeltoth/MachineLearningCoursera .. Andrew Ng’s machine learning course from Coursera
• mtraynham/ml .. Machine learning algorithms for JavaScript
• 11Ujjawal/R-Kaggle-Titanic .. Implementation of Titanic: Machine Learning from Disaster in R
• spininertia/10601 .. Machine Learning Homeworks
• samynk/ML .. Machine learning library
• hongjinwei/machine_learning .. this is a machine_learning repository and it is wrote by python with NumPy
• kesariverma/Machine-Learning-Program ..
• etsy/Conjecture .. Scalable Machine Learning in Scalding
• ype/MLRSS .. Machine Learning RSS News Aggregator
• jiri-hron/coursera-machine_learning .. Coursera – Machine Learning – all assignments
• charlesfuture/m .. machine learning
• geek-barood/Machine-Learning-coursera .. Programming exercises
• kimbobo/mlclass-ex5-006 .. Machine Learning Coursera Class
• 0xdata/h2o .. h2o = fast statistical, machine learning & math runtime for bigdata
• bohoro/AutomaticRuleGeneration .. Automatic Rule Generation Using Supervised Machine Learning
• rogerfan/simpleml .. A simple machine learning library.
• musicakc/MLCoursera .. Solutions of programming exercises of Stanford’s Machine Learning online course taught by Andrew Ng
• alexchao56/FinancialEngineering .. Some examples of machine learning applied to finance
• redknightlois/cudalearn .. Advanced machine learning algorithms in C#
• swallentin/js-k-nearest-neighbor .. Machine Learning using JavaScript
• doomsplayer/ml.rs .. my machine learning lib for rust
• s-tian/Q-Learning-EV3 .. Q machine learning algorithm implemented in a LEGO MINDSTORMS EV3 robot utilizing touch sensors to give the robot feedback.
• olessia/Coursera-Machine-Learning .. Implementation of programming exercises for Andrew Ng’s Machine Leaning course on Coursera
• lazyprogrammer/machine_learning_examples .. A collection of machine learning examples and tutorials.
• mcraig2/py-analysis .. Package I will use for data analysis / machine learning
• gavinzhang2017/Machine-Learning .. code for machine learning
• teammcr192/spherical-k-means .. Spherical k-means implementation in Matlab, Python (work-in-progress), and C++ (with multithreading). The spherical k-means algorithm is used to automatically group text documents into a set of k clusters. Machine learning, data mining.
• rmfarber/farbopt .. A TF/s to PF/s numerical optimization and machine-learning framework as discussed in my Dr. Dobbs and techEnablement.com tutorials
• bmcfee/ml_scraps .. Scraps of random machine learning code
• johncadigan/scrapy-sci .. Improve scraping with machine learning based pipelines
• berndbischl/mlr .. mlr: Machine Learning in R
• cbracher69/PD-Learn .. A Machine Learning Project for a Parkinson’s Disease Study
• wacax/Higgs-Boson-Challenge .. Higgs Boson Machine Learning Challenge – http://www.kaggle.com/c/higgs-boson
• lramsey/scikit-node .. npm wrapper for python’s scikit-learn machine learning library.
• dbkaiser/mllear .. machine learning exercises by andrew ng on cousera.
• alllw/ML .. Machine Learning Course (Stanford > Coursera)
• fonglh/coursera-ml .. Code backup for Coursera Machine Learning course
• treadwell/CS7641-Machine-Learning ..
• kimbobo/mlclass-ex4-006 .. Machine Learning Coursera Project 4
• leah0419/machine-learning ..
• tchoedak/TitanicSurvivalML .. Using Machine Learning on Titanic data to rate Survival (Kaggle)
• sgould/drwn .. Darwin: A Framework for Machine Learning Research and Development
• nivha/cross-language-ml .. Cross Language Machine Learning
• lsoft/ml .. machine learning
• Sherlock92/intelligence .. Machine learning library written in javascript for nodejs
• gburtini/Learning-Library-for-PHP .. The rudimentary workings of a machine learning library in PHP.
• shannonrush/HiggsBoson .. My Higgs Boson Machine Learning Challenge analysis and submissions
• yinlou/mltk .. Machine Learning Tool Kit
• 
  

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏2 回帖

关键词：Learning earning machine GitHub Learn Software

• malavbhavsar/sentimentalizer .. Sentiment analysis with Machine Learning
• samuel1208/machine_learning_lua ..
• jazdev/genreXpose .. Automated music genre classification using machine learning
• thoughtfulml/examples .. examples from “Thoughtful Machine Learning”
• btwardow/coursera-ml-006 .. Coursera – Machine Learning
• ccollio/machine-learning-coursera .. Work from Machine Learning course in Coursera
• treble37/machine_learning_class .. Stanford’s Machine Learning coursera class exercises
• lephix/coursera-assignment-machine-learning ..
• SharkSVM/SharkSVM .. SharkSVM – A Machine Learning Toolbox built around Shark
• kenahoo/AI-Categorizer .. Perl framework for automatic text categorization using Machine Learning methods
• calebprogramssometimes/caleb-ml-006 .. These are my solutions to the programming exercises from Andrew Ng’s Machine Learning course at Stanford.
• drumrick/mlclass-006 .. [coursera] machine learning 006
• dinocore1/Match .. A machine learning library for Java
• kfeoktistoff/MachineLearning .. Coursera ‘Machine Learning’ course
• meekrabR6R/stanford-machine-learning ..
• ajaykarthik/CourseraMachineLearning .. Solutions for the assignments in ‘Machine Learning’ on Coursera by Stanford
• abarker2/REU-Summer_2014 .. A public repository for my work on machine learning applications for optimization of CUDA stencil codes.
• charanpald/wallhack .. This is a repository of new algorithms and experiments in Python, mostly in machine learning.
• machine-learning-scala/mls .. basic machine learning algorithms for Scala
• vothane/cognition-ignition .. Machine Learning exercises in Clojure. Mostly ported Python exercises from the excellent book “Programming Collective Intelligence”.
• jdwittenauer/insight-net .. Insight .NET is a C# library that provides APIs for a number of common machine learning tasks.
• avasbr/nnet .. My custom implementations of neural networks, with concepts taken from Andrew Ng and Geoffrey Hinton’s machine learning classes
  

1. #include "knn.h"
   
2. 
   
3. #include <string>
   
4. 
   
5. namespace kNN {
   
6. 
   
7.   std::string to_string( kNN::PropertyType type ) {
   
8.     switch (type) {
   
9.       case kNN::PropertyType::House:
   
10.         return "House";
    
11. 
    
12.       case kNN::PropertyType::Apartment:
    
13.         return "Apartment";
    
14. 
    
15.       case kNN::PropertyType::Flat:
    
16.         return "Flat";
    
17. 
    
18.       default:
    
19.         return "Not Found";
    
20.     }
    
21.   }
    
22. 
    
23. }

复制代码

1. from nltk.stem.porter import PorterStemmer
   
2. import re
   
3. from nltk.corpus import stopwords
   
4. 
   
5. stop = stopwords.words('english')
   
6. porter = PorterStemmer()
   
7. 
   
8. def tokenizer(text):
   
9.     text = re.sub('<[^>]*>', '', text)
   
10.     emoticons = re.findall('(?::|;|=)(?:-)?(?:\)|\(|D|P)', text.lower())
    
11.     text = re.sub('[\W]+', ' ', text.lower()) + ' '.join(emoticons).replace('-', '')
    
12.     text = [w for w in text.split() if w not in stop]
    
13.     tokenized = [porter.stem(w) for w in text]
    
14.     return text

复制代码

1. import java.io.*;
   
2. import java.util.*;
   
3. 
   
4. public class decisionTree {
   
5. 
   
6.         public static void main(String[] args) throws Exception {
   
7.                 if (args.length != 2) {
   
8.                         System.out.println("Incorrect number of arguments");
   
9.                         System.exit(0);
   
10.                 }
    
11.                 FileReader f = new FileReader(args[0]);
    
12.                 BufferedReader br = new BufferedReader(f);
    
13.                 ArrayList<String[]> data = new ArrayList<String[]>();
    
14.                 int rCount = 0;
    
15.                 int plus, minus;
    
16.                 plus = minus = 0;
    
17.                 String line = br.readLine();
    
18.                 String[] title = line.split(",");
    
19.                 while ((line = br.readLine()) != null) {
    
20.                         String[] row = line.split(",");
    
21.                         String key = row[row.length-1];
    
22.                         if (key.equals("yes") || key.equals("A"))
    
23.                                 plus++;
    
24.                         else
    
25.                                 minus++;
    
26.                         rCount++;
    
27.                         data.add(row);
    
28.                 }
    
29.                 br.close();
    
30.                 System.out.println("["+plus+"+/"+minus+"-]");
    
31.                 boolean result = false;
    
32.                 if (plus > minus)
    
33.                         result = true;
    
34.                 TreeNode classifier = generateTree(data, title, result, -1, 0);
    
35.                
    
36.                 //train
    
37.                 System.out.print("error (train): ");
    
38.                 errorRate(data, rCount, classifier);
    
39.                
    
40.                 //test
    
41.                 FileReader t = new FileReader(args[1]);
    
42.                 br = new BufferedReader(t);
    
43.                 ArrayList<String[]> test = new ArrayList<String[]>();
    
44.                 int rTest = 0;
    
45.                 line = br.readLine();
    
46.                 while ((line = br.readLine()) != null) {
    
47.                         String[] row = line.split(",");
    
48.                         rTest++;
    
49.                         test.add(row);
    
50.                 }
    
51.                 br.close();
    
52.                
    
53.                 System.out.print("error (test): ");
    
54.                 errorRate(test, rTest, classifier);
    
55.                
    
56.         }
    
57.         public static boolean predRow(String[] row, TreeNode classifier) {
    
58.                 if (classifier.val == null)
    
59.                         return classifier.result;
    
60.                 if (row[classifier.col].equals(classifier.val))
    
61.                         return predRow(row, classifier.left);
    
62.                 else
    
63.                         return predRow(row, classifier.right);
    
64.         }
    
65.         public static void errorRate(ArrayList<String[]> data, int n, TreeNode classifier) {
    
66.                 int wrong = 0;
    
67.                 for (String[] r : data) {
    
68.                         if (predRow(r, classifier)) {
    
69.                                 if (!r[r.length-1].equals("yes") && !r[r.length-1].equals("A"))
    
70.                                         wrong++;
    
71.                         } else {
    
72.                                 if (r[r.length-1].equals("yes") || r[r.length-1].equals("A"))
    
73.                                         wrong++;
    
74.                         }
    
75.                 }
    
76.                 System.out.println((double) wrong/n);
    
77.                
    
78.         }
    
79.         public static TreeNode generateTree(ArrayList<String[]> data, String[] title, boolean prevRes, int done, int level) {
    
80.                 TreeNode root = new TreeNode(prevRes);
    
81.                 if (level == 2)
    
82.                         return root;
    
83.                 double maxIG = 0;
    
84.                 int split = 0;
    
85.                 int colSize = data.get(0).length;
    
86.                 for (int i = 0; i < colSize - 1; i++) {
    
87.                         if (i == done)
    
88.                                 continue;
    
89.                         double IG = infoGain(data, i, colSize-1);
    
90.                         if (IG > maxIG) {
    
91.                                 maxIG = IG;
    
92.                                 split = i;
    
93.                         }       
    
94.                 }
    
95.                 if (maxIG < 0.1)
    
96.                         return root;
    
97.                 String val = null;
    
98.                 String opp = null;
    
99.                 int plus1, plus2, minus1, minus2;
    
100.                 ArrayList<String[]> data1 = new ArrayList<String[]>();
     
101.                 ArrayList<String[]> data2 = new ArrayList<String[]>();
     
102.                 plus1 = plus2 = minus1 = minus2 = 0;
     
103.                 for (String[] r : data) {
     
104.                         if (val == null) {
     
105.                                 val = r[split];
     
106.                                 root.col = split;
     
107.                                 root.val = val;
     
108.                         }
     
109.                         if (opp == null && !r[split].equals(val))
     
110.                                 opp = r[split];
     
111.                         if (r[split].equals(val)) {
     
112.                                 data1.add(r);
     
113.                                 if (r[r.length-1].equals("yes") || r[r.length-1].equals("A"))
     
114.                                         plus1++;
     
115.                                 else
     
116.                                         minus1++;
     
117.                         } else {
     
118.                                 data2.add(r);
     
119.                                 if (r[r.length-1].equals("yes") || r[r.length-1].equals("A"))
     
120.                                         plus2++;
     
121.                                 else
     
122.                                         minus2++;
     
123.                         }
     
124.                 }
     
125.                 if (level == 1)
     
126.                         System.out.print("| ");
     
127.                 System.out.println(title[split] + " = " + val + ": [" + plus1 + "+/" + minus1 +"-]");
     
128.                 boolean result = false;
     
129.                 if (plus1 > minus1)
     
130.                         result = true;
     
131.                 root.left = generateTree(data1, title, result, split, level+1);
     
132.                
     
133.                 if (level == 1)
     
134.                         System.out.print("| ");
     
135.                 System.out.println(title[split] + " = " + opp + ": [" + plus2 + "+/" + minus2 +"-]");
     
136.                 result = false;
     
137.                 if (plus2 > minus2)
     
138.                         result = true;
     
139.                 root.right = generateTree(data2, title, result, split, level+1);
     
140.                
     
141.                 return root;
     
142.         }
     
143.         public static double entropy(double p) {
     
144.                 if (p == 1 || p == 0)
     
145.                         return 0.0;
     
146.                 return 0 - p*(Math.log(p)/Math.log(2.0)) - (1-p)*(Math.log(1-p)/Math.log(2.0));
     
147.         }
     
148.         public static double infoGain(ArrayList<String[]> data, int x, int y) {
     
149.                 int[] xCount = new int[2];
     
150.                 int[] yCount = new int[2];
     
151.                 int[] yCond = new int[4];
     
152.                 int rowCount = 0;
     
153.                 if (data.size() == 0)
     
154.                         return 0.0;
     
155.                 String xPlus = data.get(0)[x];
     
156.                 String yPlus = data.get(0)[y];
     
157.                 for (String[] row : data) {
     
158.                         rowCount++;
     
159.                         if (row[x].equals(xPlus)) {
     
160.                                 xCount[0]++;
     
161.                                 if (row[y].equals(yPlus)) {
     
162.                                         yCount[0]++;
     
163.                                         yCond[0]++;
     
164.                                 }
     
165.                                 else {
     
166.                                         yCount[1]++;
     
167.                                         yCond[1]++;
     
168.                                 }
     
169.                         }
     
170.                         else {
     
171.                                 xCount[1]++;
     
172.                                 if (row[y].equals(yPlus)) {
     
173.                                         yCount[0]++;
     
174.                                         yCond[2]++;
     
175.                                 }
     
176.                                 else {
     
177.                                         yCount[1]++;
     
178.                                         yCond[3]++;
     
179.                                 }
     
180.                         }
     
181.                 }
     
182.                 double px = (double) xCount[0]/rowCount;
     
183.                 double py = (double) yCount[0]/rowCount;
     
184.                 double py0 = (double) yCond[0]/xCount[0];
     
185.                 double py1 = (double) yCond[2]/xCount[1];
     
186.                 return entropy(py) - px*entropy(py0) - (1-px)*entropy(py1);
     
187.         }
     
188. }

复制代码

1. import java.io.*;
   
2. import java.util.*;
   
3. 
   
4. public class decisionTree {
   
5. 
   
6.         public static void main(String[] args) throws Exception {
   
7.                 if (args.length != 2) {
   
8.                         System.out.println("Incorrect number of arguments");
   
9.                         System.exit(0);
   
10.                 }
    
11.                 FileReader f = new FileReader(args[0]);
    
12.                 BufferedReader br = new BufferedReader(f);
    
13.                 ArrayList<String[]> data = new ArrayList<String[]>();
    
14.                 int rCount = 0;
    
15.                 int plus, minus;
    
16.                 plus = minus = 0;
    
17.                 String line = br.readLine();
    
18.                 String[] title = line.split(",");
    
19.                 while ((line = br.readLine()) != null) {
    
20.                         String[] row = line.split(",");
    
21.                         String key = row[row.length-1];
    
22.                         if (key.equals("yes") || key.equals("A"))
    
23.                                 plus++;
    
24.                         else
    
25.                                 minus++;
    
26.                         rCount++;
    
27.                         data.add(row);
    
28.                 }
    
29.                 br.close();
    
30.                 System.out.println("["+plus+"+/"+minus+"-]");
    
31.                 boolean result = false;
    
32.                 if (plus > minus)
    
33.                         result = true;
    
34.                 TreeNode classifier = generateTree(data, title, result, -1, 0);
    
35.                
    
36.                 //train
    
37.                 System.out.print("error (train): ");
    
38.                 errorRate(data, rCount, classifier);
    
39.                
    
40.                 //test
    
41.                 FileReader t = new FileReader(args[1]);
    
42.                 br = new BufferedReader(t);
    
43.                 ArrayList<String[]> test = new ArrayList<String[]>();
    
44.                 int rTest = 0;
    
45.                 line = br.readLine();
    
46.                 while ((line = br.readLine()) != null) {
    
47.                         String[] row = line.split(",");
    
48.                         rTest++;
    
49.                         test.add(row);
    
50.                 }
    
51.                 br.close();
    
52.                
    
53.                 System.out.print("error (test): ");
    
54.                 errorRate(test, rTest, classifier);
    
55.                
    
56.         }
    
57.         public static boolean predRow(String[] row, TreeNode classifier) {
    
58.                 if (classifier.val == null)
    
59.                         return classifier.result;
    
60.                 if (row[classifier.col].equals(classifier.val))
    
61.                         return predRow(row, classifier.left);
    
62.                 else
    
63.                         return predRow(row, classifier.right);
    
64.         }
    
65.         public static void errorRate(ArrayList<String[]> data, int n, TreeNode classifier) {
    
66.                 int wrong = 0;
    
67.                 for (String[] r : data) {
    
68.                         if (predRow(r, classifier)) {
    
69.                                 if (!r[r.length-1].equals("yes") && !r[r.length-1].equals("A"))
    
70.                                         wrong++;
    
71.                         } else {
    
72.                                 if (r[r.length-1].equals("yes") || r[r.length-1].equals("A"))
    
73.                                         wrong++;
    
74.                         }
    
75.                 }
    
76.                 System.out.println((double) wrong/n);
    
77.                
    
78.         }
    
79.         public static TreeNode generateTree(ArrayList<String[]> data, String[] title, boolean prevRes, int done, int level) {
    
80.                 TreeNode root = new TreeNode(prevRes);
    
81.                 if (level == 2)
    
82.                         return root;
    
83.                 double maxIG = 0;
    
84.                 int split = 0;
    
85.                 int colSize = data.get(0).length;
    
86.                 for (int i = 0; i < colSize - 1; i++) {
    
87.                         if (i == done)
    
88.                                 continue;
    
89.                         double IG = infoGain(data, i, colSize-1);
    
90.                         if (IG > maxIG) {
    
91.                                 maxIG = IG;
    
92.                                 split = i;
    
93.                         }       
    
94.                 }
    
95.                 if (maxIG < 0.1)
    
96.                         return root;
    
97.                 String val = null;
    
98.                 String opp = null;
    
99.                 int plus1, plus2, minus1, minus2;
    
100.                 ArrayList<String[]> data1 = new ArrayList<String[]>();
     
101.                 ArrayList<String[]> data2 = new ArrayList<String[]>();
     
102.                 plus1 = plus2 = minus1 = minus2 = 0;
     
103.                 for (String[] r : data) {
     
104.                         if (val == null) {
     
105.                                 val = r[split];
     
106.                                 root.col = split;
     
107.                                 root.val = val;
     
108.                         }
     
109.                         if (opp == null && !r[split].equals(val))
     
110.                                 opp = r[split];
     
111.                         if (r[split].equals(val)) {
     
112.                                 data1.add(r);
     
113.                                 if (r[r.length-1].equals("yes") || r[r.length-1].equals("A"))
     
114.                                         plus1++;
     
115.                                 else
     
116.                                         minus1++;
     
117.                         } else {
     
118.                                 data2.add(r);
     
119.                                 if (r[r.length-1].equals("yes") || r[r.length-1].equals("A"))
     
120.                                         plus2++;
     
121.                                 else
     
122.                                         minus2++;
     
123.                         }
     
124.                 }
     
125.                 if (level == 1)
     
126.                         System.out.print("| ");
     
127.                 System.out.println(title[split] + " = " + val + ": [" + plus1 + "+/" + minus1 +"-]");
     
128.                 boolean result = false;
     
129.                 if (plus1 > minus1)
     
130.                         result = true;
     
131.                 root.left = generateTree(data1, title, result, split, level+1);
     
132.                
     
133.                 if (level == 1)
     
134.                         System.out.print("| ");
     
135.                 System.out.println(title[split] + " = " + opp + ": [" + plus2 + "+/" + minus2 +"-]");
     
136.                 result = false;
     
137.                 if (plus2 > minus2)
     
138.                         result = true;
     
139.                 root.right = generateTree(data2, title, result, split, level+1);
     
140.                
     
141.                 return root;
     
142.         }
     
143.         public static double entropy(double p) {
     
144.                 if (p == 1 || p == 0)
     
145.                         return 0.0;
     
146.                 return 0 - p*(Math.log(p)/Math.log(2.0)) - (1-p)*(Math.log(1-p)/Math.log(2.0));
     
147.         }
     
148.         public static double infoGain(ArrayList<String[]> data, int x, int y) {
     
149.                 int[] xCount = new int[2];
     
150.                 int[] yCount = new int[2];
     
151.                 int[] yCond = new int[4];
     
152.                 int rowCount = 0;
     
153.                 if (data.size() == 0)
     
154.                         return 0.0;
     
155.                 String xPlus = data.get(0)[x];
     
156.                 String yPlus = data.get(0)[y];
     
157.                 for (String[] row : data) {
     
158.                         rowCount++;
     
159.                         if (row[x].equals(xPlus)) {
     
160.                                 xCount[0]++;
     
161.                                 if (row[y].equals(yPlus)) {
     
162.                                         yCount[0]++;
     
163.                                         yCond[0]++;
     
164.                                 }
     
165.                                 else {
     
166.                                         yCount[1]++;
     
167.                                         yCond[1]++;
     
168.                                 }
     
169.                         }
     
170.                         else {
     
171.                                 xCount[1]++;
     
172.                                 if (row[y].equals(yPlus)) {
     
173.                                         yCount[0]++;
     
174.                                         yCond[2]++;
     
175.                                 }
     
176.                                 else {
     
177.                                         yCount[1]++;
     
178.                                         yCond[3]++;
     
179.                                 }
     
180.                         }
     
181.                 }
     
182.                 double px = (double) xCount[0]/rowCount;
     
183.                 double py = (double) yCount[0]/rowCount;
     
184.                 double py0 = (double) yCond[0]/xCount[0];
     
185.                 double py1 = (double) yCond[2]/xCount[1];
     
186.                 return entropy(py) - px*entropy(py0) - (1-px)*entropy(py1);
     
187.         }
     
188. }

复制代码

1. import sys
   
2. from logsum import *
   
3. 
   
4. def main():
   
5.     """
   
6.     Evaluation: the Forward algorithm
   
7.     """
   
8. 
   
9.     if len(sys.argv) != 5:
   
10.         print "Usage: python alpha.py <dev> <hmm-trans> <hmm-emit> <hmm-prior>"
    
11.         return
    
12. 
    
13.     input_file = open(sys.argv[1], "r")
    
14.     hmm_trans_file = open(sys.argv[2], "r")
    
15.     hmm_emit_file = open(sys.argv[3], "r")
    
16.     hmm_prior_file = open(sys.argv[4], "r")
    
17. 
    
18.     input_tokens = []
    
19.     for line in input_file:
    
20.         input_tokens += [line.split()]
    
21. 
    
22.     hmm_trans = {}
    
23.     for state1 in hmm_trans_file:
    
24.         state1 = state1.split()
    
25.         hmm_trans[state1[0]] = {}
    
26.         for state2 in state1[1:]:
    
27.             state2 = state2.split(":")
    
28.             hmm_trans[state1[0]][state2[0]] = float(state2[1])
    
29. 
    
30.     hmm_emit = {}
    
31.     for state in hmm_emit_file:
    
32.         state = state.split()
    
33.         hmm_emit[state[0]] = {}
    
34.         for word in state[1:]:
    
35.             word = word.split(":")
    
36.             hmm_emit[state[0]][word[0]] = float(word[1])
    
37.             
    
38.     hmm_prior = {}
    
39.     for state in hmm_prior_file:
    
40.         state = state.split()
    
41.         hmm_prior[state[0]] = float(state[1])
    
42. 
    
43.     for line in input_tokens:
    
44.         probs = []
    
45.         probs.append({})
    
46.         for p in hmm_prior.keys():
    
47.             probs[0][p] = log(hmm_prior[p]) + log(hmm_emit[p][line[0]])
    
48. 
    
49.         for t in range(1, len(line)):
    
50.             probs.append({})
    
51.             for i in probs[t-1].keys():
    
52.                 probs[t][i] = log(hmm_emit[i][line[t]])
    
53.                 prior = 0.0
    
54.                 for j in probs[t-1].keys():
    
55.                     if (j == probs[t-1].keys()[0]):
    
56.                         prior = probs[t-1][j] + log(hmm_trans[j][i])
    
57.                     else:
    
58.                         prior = log_sum(prior, probs[t-1][j] + log(hmm_trans[j][i]))
    
59.                 probs[t][i] += prior
    
60. 
    
61.         probability = probs[len(probs)-1].values()[0]
    
62.         for p in probs[len(probs)-1].values()[1:]:
    
63.             probability = log_sum(probability, p)
    
64. 
    
65.         print probability
    
66.         
    
67. if __name__ == "__main__": main()

复制代码

1. import java.io.*;
   
2. import java.util.*;
   
3. import java.util.Map.Entry;
   
4. 
   
5. public class topwords {
   
6.         public static void main(String[] args) throws Exception {
   
7.                 //training
   
8.                 File train = new File(args[0]);
   
9.                 BufferedReader br = new BufferedReader(new FileReader(train));
   
10.                 String trainFile;
    
11.                 ArrayList<File> liberalBlogs = new ArrayList<File>();
    
12.                 ArrayList<File> conservativeBlogs = new ArrayList<File>();
    
13.                
    
14.                 while ((trainFile = br.readLine()) != null) {
    
15.                         if (trainFile.substring(0, 3).equals("lib")) {
    
16.                                 liberalBlogs.add(new File(trainFile));
    
17.                         } else {
    
18.                                 conservativeBlogs.add(new File(trainFile));
    
19.                         }
    
20.                 }
    
21.                
    
22.                 br.close();
    
23.                
    
24.                 HashSet<String> vocabulary = new HashSet<String>();
    
25.                 HashMap<String, Integer> libWords = new HashMap<String, Integer>();
    
26.                 HashMap<String, Integer> conWords = new HashMap<String, Integer>();
    
27.                
    
28.                 int libWordNum = 0;
    
29.                 int conWordNum = 0;
    
30.                
    
31.                 for (File l : liberalBlogs) {
    
32.                        
    
33.                         br = new BufferedReader(new FileReader(l));
    
34.                         String line;
    
35.                         while ((line = br.readLine()) != null) {
    
36.                                 libWordNum++;
    
37.                                 String token = line.toLowerCase();
    
38.                                 if (!vocabulary.contains(token)) {
    
39.                                         vocabulary.add(token);
    
40.                                         libWords.put(token, 1);
    
41.                                 } else {
    
42.                                         libWords.put(token, libWords.get(token) + 1);
    
43.                                 }
    
44.                         }
    
45.                         br.close();
    
46.                 }
    
47.                
    
48.                 for (File c : conservativeBlogs) {
    
49.                        
    
50.                         br = new BufferedReader(new FileReader(c));
    
51.                         String line;
    
52.                         while ((line = br.readLine()) != null) {
    
53.                                 conWordNum++;
    
54.                                 String token = line.toLowerCase();
    
55.                                 if (token.equals("")) {
    
56.                                         System.out.println(line);
    
57.                                 }
    
58.                                 if (!vocabulary.contains(token)) {
    
59.                                         vocabulary.add(token);
    
60.                                         conWords.put(token, 1);
    
61.                                 } else {
    
62.                                         if (!conWords.containsKey(token)) {
    
63.                                                 conWords.put(token, 1);
    
64.                                         } else {
    
65.                                                 conWords.put(token, conWords.get(token) + 1);
    
66.                                         }
    
67.                                 }
    
68.                         }
    
69.                         br.close();
    
70.                 }
    
71.                
    
72.                 HashMap<String, Double[]> words = new HashMap<String, Double[]>();
    
73.                 for (String word : vocabulary) {
    
74.                         Double[] wordP = new Double[2];
    
75.                         try {
    
76.                                 wordP[0] = (libWords.get(word) + 1.0) / (libWordNum + vocabulary.size());
    
77.                         } catch (Exception e) {
    
78.                                 wordP[0] = 1.0 / (libWordNum + vocabulary.size());
    
79.                         }
    
80.                         try {
    
81.                                 wordP[1] = (conWords.get(word) + 1.0) / (conWordNum + vocabulary.size());
    
82.                         } catch (Exception e) {
    
83.                                 wordP[1] = 1.0 / (conWordNum + vocabulary.size());
    
84.                         }
    
85.                         words.put(word, wordP);
    
86.                 }
    
87.                
    
88.                 List<Entry<String, Double[]>> libList = new ArrayList<Entry<String, Double[]>>(words.entrySet());
    
89.                 List<Entry<String, Double[]>> conList = new ArrayList<Entry<String, Double[]>>(words.entrySet());
    
90.                 // Defined Custom Comparator here
    
91.                 Collections.sort(libList, new Comparator<Map.Entry<String, Double[]>>() {
    
92.                         public int compare( Map.Entry<String, Double[]> o1, Map.Entry<String, Double[]> o2 ) {
    
93.                                 return (o2.getValue()[0]).compareTo(o1.getValue()[0]);
    
94.                         }
    
95.                 });
    
96.                 Collections.sort(conList, new Comparator<Map.Entry<String, Double[]>>() {
    
97.                         public int compare( Map.Entry<String, Double[]> o1, Map.Entry<String, Double[]> o2 ) {
    
98.                                 return (o2.getValue()[1]).compareTo(o1.getValue()[1]);
    
99.                         }
    
100.                 });
     
101. 
     
102.                 int count = 0;
     
103.                 for (Map.Entry<String, Double[]> w : libList) {
     
104.                         count++;
     
105.                         System.out.printf("%s %.04f\n", w.getKey(), w.getValue()[0]);
     
106.                         if (count == 20) {
     
107.                                 break;
     
108.                         }
     
109.                 }
     
110.                 System.out.println();
     
111.                 count = 0;
     
112.                 for (Map.Entry<String, Double[]> w : conList) {
     
113.                         count++;
     
114.                         System.out.printf("%s %.04f\n", w.getKey(), w.getValue()[1]);
     
115.                         if (count == 20) {
     
116.                                 break;
     
117.                         }
     
118.                 }
     
119.         }
     
120. }

复制代码

1. import java.io.*;
   
2. import java.util.*;
   
3. import java.util.Map.Entry;
   
4. 
   
5. public class topwordsLogOdds {
   
6.         public static void main(String[] args) throws Exception {
   
7.                 //training
   
8.                 File train = new File(args[0]);
   
9.                 BufferedReader br = new BufferedReader(new FileReader(train));
   
10.                 String trainFile;
    
11.                 ArrayList<File> liberalBlogs = new ArrayList<File>();
    
12.                 ArrayList<File> conservativeBlogs = new ArrayList<File>();
    
13.                
    
14.                 while ((trainFile = br.readLine()) != null) {
    
15.                         if (trainFile.substring(0, 3).equals("lib")) {
    
16.                                 liberalBlogs.add(new File(trainFile));
    
17.                         } else {
    
18.                                 conservativeBlogs.add(new File(trainFile));
    
19.                         }
    
20.                 }
    
21.                
    
22.                 br.close();
    
23.                
    
24.                 HashSet<String> vocabulary = new HashSet<String>();
    
25.                 HashMap<String, Integer> libWords = new HashMap<String, Integer>();
    
26.                 HashMap<String, Integer> conWords = new HashMap<String, Integer>();
    
27.                
    
28.                 int libWordNum = 0;
    
29.                 int conWordNum = 0;
    
30.                
    
31.                 for (File l : liberalBlogs) {
    
32.                        
    
33.                         br = new BufferedReader(new FileReader(l));
    
34.                         String line;
    
35.                         while ((line = br.readLine()) != null) {
    
36.                                 libWordNum++;
    
37.                                 String token = line.toLowerCase();
    
38.                                 if (!vocabulary.contains(token)) {
    
39.                                         vocabulary.add(token);
    
40.                                         libWords.put(token, 1);
    
41.                                 } else {
    
42.                                         libWords.put(token, libWords.get(token) + 1);
    
43.                                 }
    
44.                         }
    
45.                         br.close();
    
46.                 }
    
47.                
    
48.                 for (File c : conservativeBlogs) {
    
49.                        
    
50.                         br = new BufferedReader(new FileReader(c));
    
51.                         String line;
    
52.                         while ((line = br.readLine()) != null) {
    
53.                                 conWordNum++;
    
54.                                 String token = line.toLowerCase();
    
55.                                 if (token.equals("")) {
    
56.                                         System.out.println(line);
    
57.                                 }
    
58.                                 if (!vocabulary.contains(token)) {
    
59.                                         vocabulary.add(token);
    
60.                                         conWords.put(token, 1);
    
61.                                 } else {
    
62.                                         if (!conWords.containsKey(token)) {
    
63.                                                 conWords.put(token, 1);
    
64.                                         } else {
    
65.                                                 conWords.put(token, conWords.get(token) + 1);
    
66.                                         }
    
67.                                 }
    
68.                         }
    
69.                         br.close();
    
70.                 }
    
71.                
    
72.                 HashMap<String, Double[]> words = new HashMap<String, Double[]>();
    
73.                 for (String word : vocabulary) {
    
74.                         Double[] wordP = new Double[2];
    
75.                         if (libWords.containsKey(word) && conWords.containsKey(word)) {
    
76.                                 wordP[0] = Math.log(((libWords.get(word) + 1.0) / (libWordNum + vocabulary.size())) / ((conWords.get(word) + 1.0) / (conWordNum + vocabulary.size())));
    
77.                                 wordP[1] = Math.log(((conWords.get(word) + 1.0) / (conWordNum + vocabulary.size())) / ((libWords.get(word) + 1.0) / (libWordNum + vocabulary.size())));
    
78.                         } else if (!libWords.containsKey(word) && !conWords.containsKey(word)) {
    
79.                                 wordP[0] = Math.log((1.0 / (libWordNum + vocabulary.size())) / (1.0 / (conWordNum + vocabulary.size())));
    
80.                                 wordP[1] = Math.log((1.0 / (conWordNum + vocabulary.size())) / (1.0 / (libWordNum + vocabulary.size())));
    
81.                         } else if (!libWords.containsKey(word)) {
    
82.                                 wordP[0] = Math.log((1.0 / (libWordNum + vocabulary.size())) / ((conWords.get(word) + 1.0) / (conWordNum + vocabulary.size())));
    
83.                                 wordP[1] = Math.log(((conWords.get(word) + 1.0) / (conWordNum + vocabulary.size())) / (1.0 / (libWordNum + vocabulary.size())));
    
84.                         } else if (!conWords.containsKey(word)) {
    
85.                                 wordP[0] = Math.log(((libWords.get(word) + 1.0) / (libWordNum + vocabulary.size())) / (1.0 / (conWordNum + vocabulary.size())));
    
86.                                 wordP[1] = Math.log((1.0 / (conWordNum + vocabulary.size())) / ((libWords.get(word) + 1.0) / (libWordNum + vocabulary.size())));
    
87.                         }
    
88.                         words.put(word, wordP);
    
89.                 }
    
90.                
    
91.                 List<Entry<String, Double[]>> libList = new ArrayList<Entry<String, Double[]>>(words.entrySet());
    
92.                 List<Entry<String, Double[]>> conList = new ArrayList<Entry<String, Double[]>>(words.entrySet());
    
93.                 // Defined Custom Comparator here
    
94.                 Collections.sort(libList, new Comparator<Map.Entry<String, Double[]>>() {
    
95.                         public int compare( Map.Entry<String, Double[]> o1, Map.Entry<String, Double[]> o2 ) {
    
96.                                 return (o2.getValue()[0]).compareTo(o1.getValue()[0]);
    
97.                         }
    
98.                 });
    
99.                 Collections.sort(conList, new Comparator<Map.Entry<String, Double[]>>() {
    
100.                         public int compare( Map.Entry<String, Double[]> o1, Map.Entry<String, Double[]> o2 ) {
     
101.                                 return (o2.getValue()[1]).compareTo(o1.getValue()[1]);
     
102.                         }
     
103.                 });
     
104. 
     
105.                 int count = 0;
     
106.                 for (Map.Entry<String, Double[]> w : libList) {
     
107.                         count++;
     
108.                         System.out.printf("%s %.04f\n", w.getKey(), w.getValue()[0]);
     
109.                         if (count == 20) {
     
110.                                 break;
     
111.                         }
     
112.                 }
     
113.                 System.out.println();
     
114.                 count = 0;
     
115.                 for (Map.Entry<String, Double[]> w : conList) {
     
116.                         count++;
     
117.                         System.out.printf("%s %.04f\n", w.getKey(), w.getValue()[1]);
     
118.                         if (count == 20) {
     
119.                                 break;
     
120.                         }
     
121.                 }
     
122.         }
     
123. }

复制代码