Made the main DB track url top-level directories.

Need to change HTTPServer to use the DB, and the main code as
well.

Don't forget to call reconcileDirectories periodically and
then if changed update the HTTPServer's directories.

Main database finished for now, including unittests.

Added new database module for the main code.

Still needs more functions, and the unittests are just
copied from khashmir's database.

Make khashmir's db backwards compatible to pysqlite 2.0.x

Upgrade the security in khashmir by using longer TIDs.

Added some things to do for the future.

When peer downloads fail, try direct downloads.

Also don't cache failed download results, just return them.

Adds downloaded hashed files to the DHT.

Added complicated testing to find our IP address.

New DHT method 'join' like 'ping' but returns our IP and port.

Make downloaded files accessible via the HTTP server.

MirrorManager calls back to the main code, which adds an
appropriate ~ (tilde) directory to the web server.

Fixed the storage of binary strings in the database.

Errors were caused when a string stored in the database had
a NUL character in it. Now the DB uses base64 encoding for
all hash values, with automatic conversion using adapters
and converters.

Also added some unittests to the DB.

Use function for sending krpc responses, and add spew parameter.

Sending a response in the krpc module now calls a function.

There is a new 'SPEW' config variable that causes the krpc
module to spew out all sent and received packet data
(previously called noisy).

Also changed all the tests to use failUnlessEqual instead
of assertEqual, and all assert() commands no longer use
brackets.

Updated some of the downloading tests for the new file sizes
on camrdale.org (need a better solution here).

Fixed some bugs in the new hashing scheme and tests.

Pass the new HashObjects around everywhere (untested).

Modified the HashObject to do dummy hashing if the hash has already been verified.

Added a new Hash Object for tracking lots of hash details.

Added more debug printing to noisy krpc protocol.

ProxyFileStream also calculates hash while downloading.

Needs a better implementation with a HashObject type.

Make the MultiDHT test_store work for large number of nodes.

It generated errors before as all the requests for get/store
were sent out simultaneously, and some got lost (probably due
to network queue lengths). Instead, send each request and
wait for it to complete.

Improve the creation of nodes and move all to the main khashmir class.

Nodes are now initialized with their id, host and port
(optionally stored in a dict) instead of needing 2 steps.

All other classes now call the main khashmir Node() constructor
which adds the udp connection and table.

Previous actions that called insertNode on the table now
call it on the main khashmir class, so that if buckets are
full they can have a chance of being added.

Improve the stopping of the krpc protocol so no timeouts are left.

Avoid repetition, use a function for updating nodes when they contact us.

Switch from the time module to the datetime module.

Upgrade pysqlite from 1.0 to 2.x (now uses sqlite3).

No need to look at the DEFAULT section when parsing the config.

Add back the updatedFile method to the MirrorManager.

Move all the khashmir database operations to a separate module.

Move the translating of hashes from hex into the MirrorManager.

DHT normalizes key lengths by chopping or adding 0.

Decompress needed files while downloading them.

Decompress the files so they can be tracked by AptPackages
and used to generate hashes.

Call the AptPackages file_updated when files complete downloading.

Added a defer to the strem proxy to file to facilitate.
Moved the modtime updating out of the proxy as it makes
more sense to do it in the MirrorManager.

Fix an error that occurred when there were no Sources in AptPackages.

Also add an errback to the findHash call to trap future errors.

Unhexify the returned hashes from the AptPackages lookup.

Added modification time tracking to the MirrorManager cache.

Had to switch the HTTPServer to use renderHTTP() instead of
render() so that the last-modified HTTP header would be set.

Added caching of downloaded files to the MirrorManager.

Also made the MirrorManager work with full URLs (http://...).
Also added some log messages to the HTTPDownloader.

Lots of log messages and blocked non-local access to server.

Remote peers can still access the shared files, but not make
requests that result in lookups or see the stats.

Also fixed a bug in the main findHash routines.
Also changed to use splitHostPort rather than manual splitting.

Made the DHT bootstrapping use IPs instead of DNS names.

Also added some logging messages.
Also fixed a problem that caused the application to be loaded twice.

Move all url parsing into the PeerManager.

Also added a lookupHash_done function to the main code.

Fixed some minor bugs.

Made the get and storeValue DHT functions work.

Also added tests for them.
Had to modify the callback from khashmir's get and storeValue functions
to include the key, and the key and value, respectively so multiple
calls can be tracked.

Updated the DHT join and leave to check if a join is in progress.

Made the DHT join method work and added tests for it.

Added a shutdown method to the khasmir DHT.

Add timeouts to some unittests.

Fixed 2 broken AptPackages unittests.

Disable the deprecation warning for the khashmir tests.

Need to rewrite the khashmir main functions to use Deferreds
or something.

Change all unittests to use twisted's trial.

Merge separate "test_*.py" files into their modules.

Modify khashmir's config system to not use the const module.

Configuration variables are all passed in as a dictionary where needed.
The NULL_ID config option has been made a constant.
The ConfigParser now stores all keys as upper case.

Add more to khashmir's DHT implementation.

Still needs a massive rewrite for loading config values properly.

Add a MirrorError exception.

Fixes the deprecated use of calling errback with a string.

Update all tests to add the deferred as both errback and callback.

Fix the MirrorManager tests to be dist-agnostic too.

Fix some broken AptPackages tests.

Made the AptPackages tests dist-agnostic so it works with Ubuntu.

Added the new DHT interface and a bare implmentation of it.

Added the DHT starting to the application.

Removed the old .cvsignore from khashmir.

Add some of the fetching logic.

Fix up the application to work with then new structure.

Moved the files to appropriate package directories.

Make it also work from the command-line.

Added the application control files.

Add proper version numbers to the user-agent string.

Added a manager to the HTTPServer for it to call when a file is not found.

Moved the HTTPDownloader to the new PeerManager.

Added a mirror manager frontend for the AptPackages.

Clean up the imports again.

AptPackages only takes a single cache directory.

Also changed the path specific to use os.path.

Moved the index file tracking inside the AptPackages _load method.

Cleanup AptPackages code.

Cleanup and order the imports.
Remove unnnecessary parts.
Add comments and docstrings.

Implemented cache loading with threads and deferreds.

Fixed the stdout redirection to work with threads.
Added individual findHash tests and one large multipleFindHash test.

Add a findHash function to AptPackages that searches everywhere for a hash.

Also added a test for it.

Add tracking of index file hashes from Release files.

Also added test for this.

Added support for source package hashes to AptPackages.

Also added a test for it.

Fix the architecture problem in the AptPackages config system.

Added a unittest to make sure AptPackages gets the right SHA1 hash.

Remove the apt-proxy specific stuff from AptPackages.

Switched AptPackages to use twisted's logging facility

Remove some apt-proxy specific stuff.

Added the packages.py file (as AptPackages.py) from apt-proxy.

Added new HTTPServer that serves static files.

Update the downloader to set the headers itself and add a getRange function.

Read the response in the unit tests to prevent RST packets.

Add a manager for the client downloads and the tests for it.

Get it working and add trial unit testing.

Lots of changes that make it work now.

Also added twisted-style unit tests to be run with
the trial program.

Add a unittest to the HTTPDownloader.

First attempt (untested) at new HTTP downloader.

Fixed a bug in test that called hash instead of khash.

Fix a callLater bug introduced in commit 6075497a.

switched to callLater from callFromThread but forgot to
include the delay of 0.

Clean up all the imports.

Switch from the entropy definition to using os.urandom.

Fix some errors found by PyLint.

Remove the obsolete whrandom module and use random instead.

Removed all unused threading.

Ignore the pyc and eclipse project files.

Remove all the airhook stuff.

added a simple tcp over airhook proxy, not fully tested

cleaned up airhook a bit

broke up khashmir class into base, read, and write classes, since
having generic read/write methods on deployed DHTs is not a great idea

actions now take an "action" method, since it's not always
"storeValueForKey"

buckets now get refreshed

nodes that change their ID are now handled properly

now if you provide a list to storeValueForKey it will use the krpc
method "store_values" to store multiple values under the same key in
one swoop