]> err.no Git - linux-2.6/blob - fs/xfs/linux-2.6/xfs_super.c
[XFS] avoid race in sync_inodes() that can fail to write out all dirty data
[linux-2.6] / fs / xfs / linux-2.6 / xfs_super.c
1 /*
2  * Copyright (c) 2000-2006 Silicon Graphics, Inc.
3  * All Rights Reserved.
4  *
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License as
7  * published by the Free Software Foundation.
8  *
9  * This program is distributed in the hope that it would be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write the Free Software Foundation,
16  * Inc.,  51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17  */
18 #include "xfs.h"
19 #include "xfs_bit.h"
20 #include "xfs_log.h"
21 #include "xfs_clnt.h"
22 #include "xfs_inum.h"
23 #include "xfs_trans.h"
24 #include "xfs_sb.h"
25 #include "xfs_ag.h"
26 #include "xfs_dir2.h"
27 #include "xfs_alloc.h"
28 #include "xfs_dmapi.h"
29 #include "xfs_quota.h"
30 #include "xfs_mount.h"
31 #include "xfs_bmap_btree.h"
32 #include "xfs_alloc_btree.h"
33 #include "xfs_ialloc_btree.h"
34 #include "xfs_dir2_sf.h"
35 #include "xfs_attr_sf.h"
36 #include "xfs_dinode.h"
37 #include "xfs_inode.h"
38 #include "xfs_btree.h"
39 #include "xfs_ialloc.h"
40 #include "xfs_bmap.h"
41 #include "xfs_rtalloc.h"
42 #include "xfs_error.h"
43 #include "xfs_itable.h"
44 #include "xfs_rw.h"
45 #include "xfs_acl.h"
46 #include "xfs_attr.h"
47 #include "xfs_buf_item.h"
48 #include "xfs_utils.h"
49 #include "xfs_vnodeops.h"
50 #include "xfs_vfsops.h"
51 #include "xfs_version.h"
52
53 #include <linux/namei.h>
54 #include <linux/init.h>
55 #include <linux/mount.h>
56 #include <linux/mempool.h>
57 #include <linux/writeback.h>
58 #include <linux/kthread.h>
59 #include <linux/freezer.h>
60
61 static struct quotactl_ops xfs_quotactl_operations;
62 static struct super_operations xfs_super_operations;
63 static kmem_zone_t *xfs_vnode_zone;
64 static kmem_zone_t *xfs_ioend_zone;
65 mempool_t *xfs_ioend_pool;
66
67 STATIC struct xfs_mount_args *
68 xfs_args_allocate(
69         struct super_block      *sb,
70         int                     silent)
71 {
72         struct xfs_mount_args   *args;
73
74         args = kmem_zalloc(sizeof(struct xfs_mount_args), KM_SLEEP);
75         args->logbufs = args->logbufsize = -1;
76         strncpy(args->fsname, sb->s_id, MAXNAMELEN);
77
78         /* Copy the already-parsed mount(2) flags we're interested in */
79         if (sb->s_flags & MS_DIRSYNC)
80                 args->flags |= XFSMNT_DIRSYNC;
81         if (sb->s_flags & MS_SYNCHRONOUS)
82                 args->flags |= XFSMNT_WSYNC;
83         if (silent)
84                 args->flags |= XFSMNT_QUIET;
85         args->flags |= XFSMNT_32BITINODES;
86
87         return args;
88 }
89
90 __uint64_t
91 xfs_max_file_offset(
92         unsigned int            blockshift)
93 {
94         unsigned int            pagefactor = 1;
95         unsigned int            bitshift = BITS_PER_LONG - 1;
96
97         /* Figure out maximum filesize, on Linux this can depend on
98          * the filesystem blocksize (on 32 bit platforms).
99          * __block_prepare_write does this in an [unsigned] long...
100          *      page->index << (PAGE_CACHE_SHIFT - bbits)
101          * So, for page sized blocks (4K on 32 bit platforms),
102          * this wraps at around 8Tb (hence MAX_LFS_FILESIZE which is
103          *      (((u64)PAGE_CACHE_SIZE << (BITS_PER_LONG-1))-1)
104          * but for smaller blocksizes it is less (bbits = log2 bsize).
105          * Note1: get_block_t takes a long (implicit cast from above)
106          * Note2: The Large Block Device (LBD and HAVE_SECTOR_T) patch
107          * can optionally convert the [unsigned] long from above into
108          * an [unsigned] long long.
109          */
110
111 #if BITS_PER_LONG == 32
112 # if defined(CONFIG_LBD)
113         ASSERT(sizeof(sector_t) == 8);
114         pagefactor = PAGE_CACHE_SIZE;
115         bitshift = BITS_PER_LONG;
116 # else
117         pagefactor = PAGE_CACHE_SIZE >> (PAGE_CACHE_SHIFT - blockshift);
118 # endif
119 #endif
120
121         return (((__uint64_t)pagefactor) << bitshift) - 1;
122 }
123
124 STATIC_INLINE void
125 xfs_set_inodeops(
126         struct inode            *inode)
127 {
128         switch (inode->i_mode & S_IFMT) {
129         case S_IFREG:
130                 inode->i_op = &xfs_inode_operations;
131                 inode->i_fop = &xfs_file_operations;
132                 inode->i_mapping->a_ops = &xfs_address_space_operations;
133                 break;
134         case S_IFDIR:
135                 inode->i_op = &xfs_dir_inode_operations;
136                 inode->i_fop = &xfs_dir_file_operations;
137                 break;
138         case S_IFLNK:
139                 inode->i_op = &xfs_symlink_inode_operations;
140                 if (inode->i_blocks)
141                         inode->i_mapping->a_ops = &xfs_address_space_operations;
142                 break;
143         default:
144                 inode->i_op = &xfs_inode_operations;
145                 init_special_inode(inode, inode->i_mode, inode->i_rdev);
146                 break;
147         }
148 }
149
150 STATIC_INLINE void
151 xfs_revalidate_inode(
152         xfs_mount_t             *mp,
153         bhv_vnode_t             *vp,
154         xfs_inode_t             *ip)
155 {
156         struct inode            *inode = vn_to_inode(vp);
157
158         inode->i_mode   = ip->i_d.di_mode;
159         inode->i_nlink  = ip->i_d.di_nlink;
160         inode->i_uid    = ip->i_d.di_uid;
161         inode->i_gid    = ip->i_d.di_gid;
162
163         switch (inode->i_mode & S_IFMT) {
164         case S_IFBLK:
165         case S_IFCHR:
166                 inode->i_rdev =
167                         MKDEV(sysv_major(ip->i_df.if_u2.if_rdev) & 0x1ff,
168                               sysv_minor(ip->i_df.if_u2.if_rdev));
169                 break;
170         default:
171                 inode->i_rdev = 0;
172                 break;
173         }
174
175         inode->i_generation = ip->i_d.di_gen;
176         i_size_write(inode, ip->i_d.di_size);
177         inode->i_blocks =
178                 XFS_FSB_TO_BB(mp, ip->i_d.di_nblocks + ip->i_delayed_blks);
179         inode->i_atime.tv_sec   = ip->i_d.di_atime.t_sec;
180         inode->i_atime.tv_nsec  = ip->i_d.di_atime.t_nsec;
181         inode->i_mtime.tv_sec   = ip->i_d.di_mtime.t_sec;
182         inode->i_mtime.tv_nsec  = ip->i_d.di_mtime.t_nsec;
183         inode->i_ctime.tv_sec   = ip->i_d.di_ctime.t_sec;
184         inode->i_ctime.tv_nsec  = ip->i_d.di_ctime.t_nsec;
185         if (ip->i_d.di_flags & XFS_DIFLAG_IMMUTABLE)
186                 inode->i_flags |= S_IMMUTABLE;
187         else
188                 inode->i_flags &= ~S_IMMUTABLE;
189         if (ip->i_d.di_flags & XFS_DIFLAG_APPEND)
190                 inode->i_flags |= S_APPEND;
191         else
192                 inode->i_flags &= ~S_APPEND;
193         if (ip->i_d.di_flags & XFS_DIFLAG_SYNC)
194                 inode->i_flags |= S_SYNC;
195         else
196                 inode->i_flags &= ~S_SYNC;
197         if (ip->i_d.di_flags & XFS_DIFLAG_NOATIME)
198                 inode->i_flags |= S_NOATIME;
199         else
200                 inode->i_flags &= ~S_NOATIME;
201         xfs_iflags_clear(ip, XFS_IMODIFIED);
202 }
203
204 void
205 xfs_initialize_vnode(
206         struct xfs_mount        *mp,
207         bhv_vnode_t             *vp,
208         struct xfs_inode        *ip)
209 {
210         struct inode            *inode = vn_to_inode(vp);
211
212         if (!ip->i_vnode) {
213                 ip->i_vnode = vp;
214                 inode->i_private = ip;
215         }
216
217         /*
218          * We need to set the ops vectors, and unlock the inode, but if
219          * we have been called during the new inode create process, it is
220          * too early to fill in the Linux inode.  We will get called a
221          * second time once the inode is properly set up, and then we can
222          * finish our work.
223          */
224         if (ip->i_d.di_mode != 0 && (inode->i_state & I_NEW)) {
225                 xfs_revalidate_inode(mp, vp, ip);
226                 xfs_set_inodeops(inode);
227
228                 xfs_iflags_clear(ip, XFS_INEW);
229                 barrier();
230
231                 unlock_new_inode(inode);
232         }
233 }
234
235 int
236 xfs_blkdev_get(
237         xfs_mount_t             *mp,
238         const char              *name,
239         struct block_device     **bdevp)
240 {
241         int                     error = 0;
242
243         *bdevp = open_bdev_excl(name, 0, mp);
244         if (IS_ERR(*bdevp)) {
245                 error = PTR_ERR(*bdevp);
246                 printk("XFS: Invalid device [%s], error=%d\n", name, error);
247         }
248
249         return -error;
250 }
251
252 void
253 xfs_blkdev_put(
254         struct block_device     *bdev)
255 {
256         if (bdev)
257                 close_bdev_excl(bdev);
258 }
259
260 /*
261  * Try to write out the superblock using barriers.
262  */
263 STATIC int
264 xfs_barrier_test(
265         xfs_mount_t     *mp)
266 {
267         xfs_buf_t       *sbp = xfs_getsb(mp, 0);
268         int             error;
269
270         XFS_BUF_UNDONE(sbp);
271         XFS_BUF_UNREAD(sbp);
272         XFS_BUF_UNDELAYWRITE(sbp);
273         XFS_BUF_WRITE(sbp);
274         XFS_BUF_UNASYNC(sbp);
275         XFS_BUF_ORDERED(sbp);
276
277         xfsbdstrat(mp, sbp);
278         error = xfs_iowait(sbp);
279
280         /*
281          * Clear all the flags we set and possible error state in the
282          * buffer.  We only did the write to try out whether barriers
283          * worked and shouldn't leave any traces in the superblock
284          * buffer.
285          */
286         XFS_BUF_DONE(sbp);
287         XFS_BUF_ERROR(sbp, 0);
288         XFS_BUF_UNORDERED(sbp);
289
290         xfs_buf_relse(sbp);
291         return error;
292 }
293
294 void
295 xfs_mountfs_check_barriers(xfs_mount_t *mp)
296 {
297         int error;
298
299         if (mp->m_logdev_targp != mp->m_ddev_targp) {
300                 xfs_fs_cmn_err(CE_NOTE, mp,
301                   "Disabling barriers, not supported with external log device");
302                 mp->m_flags &= ~XFS_MOUNT_BARRIER;
303                 return;
304         }
305
306         if (xfs_readonly_buftarg(mp->m_ddev_targp)) {
307                 xfs_fs_cmn_err(CE_NOTE, mp,
308                   "Disabling barriers, underlying device is readonly");
309                 mp->m_flags &= ~XFS_MOUNT_BARRIER;
310                 return;
311         }
312
313         error = xfs_barrier_test(mp);
314         if (error) {
315                 xfs_fs_cmn_err(CE_NOTE, mp,
316                   "Disabling barriers, trial barrier write failed");
317                 mp->m_flags &= ~XFS_MOUNT_BARRIER;
318                 return;
319         }
320 }
321
322 void
323 xfs_blkdev_issue_flush(
324         xfs_buftarg_t           *buftarg)
325 {
326         blkdev_issue_flush(buftarg->bt_bdev, NULL);
327 }
328
329 STATIC struct inode *
330 xfs_fs_alloc_inode(
331         struct super_block      *sb)
332 {
333         bhv_vnode_t             *vp;
334
335         vp = kmem_zone_alloc(xfs_vnode_zone, KM_SLEEP);
336         if (unlikely(!vp))
337                 return NULL;
338         return vn_to_inode(vp);
339 }
340
341 STATIC void
342 xfs_fs_destroy_inode(
343         struct inode            *inode)
344 {
345         kmem_zone_free(xfs_vnode_zone, vn_from_inode(inode));
346 }
347
348 STATIC void
349 xfs_fs_inode_init_once(
350         void                    *vnode,
351         kmem_zone_t             *zonep,
352         unsigned long           flags)
353 {
354         inode_init_once(vn_to_inode((bhv_vnode_t *)vnode));
355 }
356
357 STATIC int
358 xfs_init_zones(void)
359 {
360         xfs_vnode_zone = kmem_zone_init_flags(sizeof(bhv_vnode_t), "xfs_vnode",
361                                         KM_ZONE_HWALIGN | KM_ZONE_RECLAIM |
362                                         KM_ZONE_SPREAD,
363                                         xfs_fs_inode_init_once);
364         if (!xfs_vnode_zone)
365                 goto out;
366
367         xfs_ioend_zone = kmem_zone_init(sizeof(xfs_ioend_t), "xfs_ioend");
368         if (!xfs_ioend_zone)
369                 goto out_destroy_vnode_zone;
370
371         xfs_ioend_pool = mempool_create_slab_pool(4 * MAX_BUF_PER_PAGE,
372                                                   xfs_ioend_zone);
373         if (!xfs_ioend_pool)
374                 goto out_free_ioend_zone;
375         return 0;
376
377  out_free_ioend_zone:
378         kmem_zone_destroy(xfs_ioend_zone);
379  out_destroy_vnode_zone:
380         kmem_zone_destroy(xfs_vnode_zone);
381  out:
382         return -ENOMEM;
383 }
384
385 STATIC void
386 xfs_destroy_zones(void)
387 {
388         mempool_destroy(xfs_ioend_pool);
389         kmem_zone_destroy(xfs_vnode_zone);
390         kmem_zone_destroy(xfs_ioend_zone);
391 }
392
393 /*
394  * Attempt to flush the inode, this will actually fail
395  * if the inode is pinned, but we dirty the inode again
396  * at the point when it is unpinned after a log write,
397  * since this is when the inode itself becomes flushable.
398  */
399 STATIC int
400 xfs_fs_write_inode(
401         struct inode            *inode,
402         int                     sync)
403 {
404         int                     error = 0, flags = FLUSH_INODE;
405
406         vn_trace_entry(XFS_I(inode), __FUNCTION__,
407                         (inst_t *)__return_address);
408         if (sync) {
409                 filemap_fdatawait(inode->i_mapping);
410                 flags |= FLUSH_SYNC;
411         }
412         error = xfs_inode_flush(XFS_I(inode), flags);
413         /*
414          * if we failed to write out the inode then mark
415          * it dirty again so we'll try again later.
416          */
417         if (error)
418                 mark_inode_dirty_sync(inode);
419
420         return -error;
421 }
422
423 STATIC void
424 xfs_fs_clear_inode(
425         struct inode            *inode)
426 {
427         xfs_inode_t             *ip = XFS_I(inode);
428
429         /*
430          * ip can be null when xfs_iget_core calls xfs_idestroy if we
431          * find an inode with di_mode == 0 but without IGET_CREATE set.
432          */
433         if (ip) {
434                 vn_trace_entry(ip, __FUNCTION__, (inst_t *)__return_address);
435
436                 XFS_STATS_INC(vn_rele);
437                 XFS_STATS_INC(vn_remove);
438                 XFS_STATS_INC(vn_reclaim);
439                 XFS_STATS_DEC(vn_active);
440
441                 xfs_inactive(ip);
442                 xfs_iflags_clear(ip, XFS_IMODIFIED);
443                 if (xfs_reclaim(ip))
444                         panic("%s: cannot reclaim 0x%p\n", __FUNCTION__, inode);
445         }
446
447         ASSERT(XFS_I(inode) == NULL);
448 }
449
450 /*
451  * Enqueue a work item to be picked up by the vfs xfssyncd thread.
452  * Doing this has two advantages:
453  * - It saves on stack space, which is tight in certain situations
454  * - It can be used (with care) as a mechanism to avoid deadlocks.
455  * Flushing while allocating in a full filesystem requires both.
456  */
457 STATIC void
458 xfs_syncd_queue_work(
459         struct xfs_mount *mp,
460         void            *data,
461         void            (*syncer)(struct xfs_mount *, void *))
462 {
463         struct bhv_vfs_sync_work *work;
464
465         work = kmem_alloc(sizeof(struct bhv_vfs_sync_work), KM_SLEEP);
466         INIT_LIST_HEAD(&work->w_list);
467         work->w_syncer = syncer;
468         work->w_data = data;
469         work->w_mount = mp;
470         spin_lock(&mp->m_sync_lock);
471         list_add_tail(&work->w_list, &mp->m_sync_list);
472         spin_unlock(&mp->m_sync_lock);
473         wake_up_process(mp->m_sync_task);
474 }
475
476 /*
477  * Flush delayed allocate data, attempting to free up reserved space
478  * from existing allocations.  At this point a new allocation attempt
479  * has failed with ENOSPC and we are in the process of scratching our
480  * heads, looking about for more room...
481  */
482 STATIC void
483 xfs_flush_inode_work(
484         struct xfs_mount *mp,
485         void            *arg)
486 {
487         struct inode    *inode = arg;
488         filemap_flush(inode->i_mapping);
489         iput(inode);
490 }
491
492 void
493 xfs_flush_inode(
494         xfs_inode_t     *ip)
495 {
496         struct inode    *inode = ip->i_vnode;
497
498         igrab(inode);
499         xfs_syncd_queue_work(ip->i_mount, inode, xfs_flush_inode_work);
500         delay(msecs_to_jiffies(500));
501 }
502
503 /*
504  * This is the "bigger hammer" version of xfs_flush_inode_work...
505  * (IOW, "If at first you don't succeed, use a Bigger Hammer").
506  */
507 STATIC void
508 xfs_flush_device_work(
509         struct xfs_mount *mp,
510         void            *arg)
511 {
512         struct inode    *inode = arg;
513         sync_blockdev(mp->m_super->s_bdev);
514         iput(inode);
515 }
516
517 void
518 xfs_flush_device(
519         xfs_inode_t     *ip)
520 {
521         struct inode    *inode = vn_to_inode(XFS_ITOV(ip));
522
523         igrab(inode);
524         xfs_syncd_queue_work(ip->i_mount, inode, xfs_flush_device_work);
525         delay(msecs_to_jiffies(500));
526         xfs_log_force(ip->i_mount, (xfs_lsn_t)0, XFS_LOG_FORCE|XFS_LOG_SYNC);
527 }
528
529 STATIC void
530 xfs_sync_worker(
531         struct xfs_mount *mp,
532         void            *unused)
533 {
534         int             error;
535
536         if (!(mp->m_flags & XFS_MOUNT_RDONLY))
537                 error = xfs_sync(mp, SYNC_FSDATA | SYNC_BDFLUSH | SYNC_ATTR |
538                                      SYNC_REFCACHE | SYNC_SUPER);
539         mp->m_sync_seq++;
540         wake_up(&mp->m_wait_single_sync_task);
541 }
542
543 STATIC int
544 xfssyncd(
545         void                    *arg)
546 {
547         struct xfs_mount        *mp = arg;
548         long                    timeleft;
549         bhv_vfs_sync_work_t     *work, *n;
550         LIST_HEAD               (tmp);
551
552         set_freezable();
553         timeleft = xfs_syncd_centisecs * msecs_to_jiffies(10);
554         for (;;) {
555                 timeleft = schedule_timeout_interruptible(timeleft);
556                 /* swsusp */
557                 try_to_freeze();
558                 if (kthread_should_stop() && list_empty(&mp->m_sync_list))
559                         break;
560
561                 spin_lock(&mp->m_sync_lock);
562                 /*
563                  * We can get woken by laptop mode, to do a sync -
564                  * that's the (only!) case where the list would be
565                  * empty with time remaining.
566                  */
567                 if (!timeleft || list_empty(&mp->m_sync_list)) {
568                         if (!timeleft)
569                                 timeleft = xfs_syncd_centisecs *
570                                                         msecs_to_jiffies(10);
571                         INIT_LIST_HEAD(&mp->m_sync_work.w_list);
572                         list_add_tail(&mp->m_sync_work.w_list,
573                                         &mp->m_sync_list);
574                 }
575                 list_for_each_entry_safe(work, n, &mp->m_sync_list, w_list)
576                         list_move(&work->w_list, &tmp);
577                 spin_unlock(&mp->m_sync_lock);
578
579                 list_for_each_entry_safe(work, n, &tmp, w_list) {
580                         (*work->w_syncer)(mp, work->w_data);
581                         list_del(&work->w_list);
582                         if (work == &mp->m_sync_work)
583                                 continue;
584                         kmem_free(work, sizeof(struct bhv_vfs_sync_work));
585                 }
586         }
587
588         return 0;
589 }
590
591 STATIC void
592 xfs_fs_put_super(
593         struct super_block      *sb)
594 {
595         struct xfs_mount        *mp = XFS_M(sb);
596         int                     error;
597
598         kthread_stop(mp->m_sync_task);
599
600         xfs_sync(mp, SYNC_ATTR | SYNC_DELWRI);
601         error = xfs_unmount(mp, 0, NULL);
602         if (error)
603                 printk("XFS: unmount got error=%d\n", error);
604 }
605
606 STATIC void
607 xfs_fs_write_super(
608         struct super_block      *sb)
609 {
610         if (!(sb->s_flags & MS_RDONLY))
611                 xfs_sync(XFS_M(sb), SYNC_FSDATA);
612         sb->s_dirt = 0;
613 }
614
615 STATIC int
616 xfs_fs_sync_super(
617         struct super_block      *sb,
618         int                     wait)
619 {
620         struct xfs_mount        *mp = XFS_M(sb);
621         int                     error;
622         int                     flags;
623
624         /*
625          * Treat a sync operation like a freeze.  This is to work
626          * around a race in sync_inodes() which works in two phases
627          * - an asynchronous flush, which can write out an inode
628          * without waiting for file size updates to complete, and a
629          * synchronous flush, which wont do anything because the
630          * async flush removed the inode's dirty flag.  Also
631          * sync_inodes() will not see any files that just have
632          * outstanding transactions to be flushed because we don't
633          * dirty the Linux inode until after the transaction I/O
634          * completes.
635          */
636         if (wait || unlikely(sb->s_frozen == SB_FREEZE_WRITE)) {
637                 /*
638                  * First stage of freeze - no more writers will make progress
639                  * now we are here, so we flush delwri and delalloc buffers
640                  * here, then wait for all I/O to complete.  Data is frozen at
641                  * that point. Metadata is not frozen, transactions can still
642                  * occur here so don't bother flushing the buftarg (i.e
643                  * SYNC_QUIESCE) because it'll just get dirty again.
644                  */
645                 flags = SYNC_DATA_QUIESCE;
646         } else
647                 flags = SYNC_FSDATA;
648
649         error = xfs_sync(mp, flags);
650         sb->s_dirt = 0;
651
652         if (unlikely(laptop_mode)) {
653                 int     prev_sync_seq = mp->m_sync_seq;
654
655                 /*
656                  * The disk must be active because we're syncing.
657                  * We schedule xfssyncd now (now that the disk is
658                  * active) instead of later (when it might not be).
659                  */
660                 wake_up_process(mp->m_sync_task);
661                 /*
662                  * We have to wait for the sync iteration to complete.
663                  * If we don't, the disk activity caused by the sync
664                  * will come after the sync is completed, and that
665                  * triggers another sync from laptop mode.
666                  */
667                 wait_event(mp->m_wait_single_sync_task,
668                                 mp->m_sync_seq != prev_sync_seq);
669         }
670
671         return -error;
672 }
673
674 STATIC int
675 xfs_fs_statfs(
676         struct dentry           *dentry,
677         struct kstatfs          *statp)
678 {
679         return -xfs_statvfs(XFS_M(dentry->d_sb), statp,
680                                 vn_from_inode(dentry->d_inode));
681 }
682
683 STATIC int
684 xfs_fs_remount(
685         struct super_block      *sb,
686         int                     *flags,
687         char                    *options)
688 {
689         struct xfs_mount        *mp = XFS_M(sb);
690         struct xfs_mount_args   *args = xfs_args_allocate(sb, 0);
691         int                     error;
692
693         error = xfs_parseargs(mp, options, args, 1);
694         if (!error)
695                 error = xfs_mntupdate(mp, flags, args);
696         kmem_free(args, sizeof(*args));
697         return -error;
698 }
699
700 STATIC void
701 xfs_fs_lockfs(
702         struct super_block      *sb)
703 {
704         xfs_freeze(XFS_M(sb));
705 }
706
707 STATIC int
708 xfs_fs_show_options(
709         struct seq_file         *m,
710         struct vfsmount         *mnt)
711 {
712         return -xfs_showargs(XFS_M(mnt->mnt_sb), m);
713 }
714
715 STATIC int
716 xfs_fs_quotasync(
717         struct super_block      *sb,
718         int                     type)
719 {
720         return -XFS_QM_QUOTACTL(XFS_M(sb), Q_XQUOTASYNC, 0, NULL);
721 }
722
723 STATIC int
724 xfs_fs_getxstate(
725         struct super_block      *sb,
726         struct fs_quota_stat    *fqs)
727 {
728         return -XFS_QM_QUOTACTL(XFS_M(sb), Q_XGETQSTAT, 0, (caddr_t)fqs);
729 }
730
731 STATIC int
732 xfs_fs_setxstate(
733         struct super_block      *sb,
734         unsigned int            flags,
735         int                     op)
736 {
737         return -XFS_QM_QUOTACTL(XFS_M(sb), op, 0, (caddr_t)&flags);
738 }
739
740 STATIC int
741 xfs_fs_getxquota(
742         struct super_block      *sb,
743         int                     type,
744         qid_t                   id,
745         struct fs_disk_quota    *fdq)
746 {
747         return -XFS_QM_QUOTACTL(XFS_M(sb),
748                                  (type == USRQUOTA) ? Q_XGETQUOTA :
749                                   ((type == GRPQUOTA) ? Q_XGETGQUOTA :
750                                    Q_XGETPQUOTA), id, (caddr_t)fdq);
751 }
752
753 STATIC int
754 xfs_fs_setxquota(
755         struct super_block      *sb,
756         int                     type,
757         qid_t                   id,
758         struct fs_disk_quota    *fdq)
759 {
760         return -XFS_QM_QUOTACTL(XFS_M(sb),
761                                  (type == USRQUOTA) ? Q_XSETQLIM :
762                                   ((type == GRPQUOTA) ? Q_XSETGQLIM :
763                                    Q_XSETPQLIM), id, (caddr_t)fdq);
764 }
765
766 STATIC int
767 xfs_fs_fill_super(
768         struct super_block      *sb,
769         void                    *data,
770         int                     silent)
771 {
772         struct inode            *rootvp;
773         struct xfs_mount        *mp = NULL;
774         struct xfs_mount_args   *args = xfs_args_allocate(sb, silent);
775         struct kstatfs          statvfs;
776         int                     error;
777
778         mp = xfs_mount_init();
779
780         INIT_LIST_HEAD(&mp->m_sync_list);
781         spin_lock_init(&mp->m_sync_lock);
782         init_waitqueue_head(&mp->m_wait_single_sync_task);
783
784         mp->m_super = sb;
785         sb->s_fs_info = mp;
786
787         if (sb->s_flags & MS_RDONLY)
788                 mp->m_flags |= XFS_MOUNT_RDONLY;
789
790         error = xfs_parseargs(mp, (char *)data, args, 0);
791         if (error)
792                 goto fail_vfsop;
793
794         sb_min_blocksize(sb, BBSIZE);
795         sb->s_export_op = &xfs_export_operations;
796         sb->s_qcop = &xfs_quotactl_operations;
797         sb->s_op = &xfs_super_operations;
798
799         error = xfs_mount(mp, args, NULL);
800         if (error)
801                 goto fail_vfsop;
802
803         error = xfs_statvfs(mp, &statvfs, NULL);
804         if (error)
805                 goto fail_unmount;
806
807         sb->s_dirt = 1;
808         sb->s_magic = statvfs.f_type;
809         sb->s_blocksize = statvfs.f_bsize;
810         sb->s_blocksize_bits = ffs(statvfs.f_bsize) - 1;
811         sb->s_maxbytes = xfs_max_file_offset(sb->s_blocksize_bits);
812         sb->s_time_gran = 1;
813         set_posix_acl_flag(sb);
814
815         error = xfs_root(mp, &rootvp);
816         if (error)
817                 goto fail_unmount;
818
819         sb->s_root = d_alloc_root(vn_to_inode(rootvp));
820         if (!sb->s_root) {
821                 error = ENOMEM;
822                 goto fail_vnrele;
823         }
824         if (is_bad_inode(sb->s_root->d_inode)) {
825                 error = EINVAL;
826                 goto fail_vnrele;
827         }
828
829         mp->m_sync_work.w_syncer = xfs_sync_worker;
830         mp->m_sync_work.w_mount = mp;
831         mp->m_sync_task = kthread_run(xfssyncd, mp, "xfssyncd");
832         if (IS_ERR(mp->m_sync_task)) {
833                 error = -PTR_ERR(mp->m_sync_task);
834                 goto fail_vnrele;
835         }
836
837         vn_trace_exit(XFS_I(sb->s_root->d_inode), __FUNCTION__,
838                         (inst_t *)__return_address);
839
840         kmem_free(args, sizeof(*args));
841         return 0;
842
843 fail_vnrele:
844         if (sb->s_root) {
845                 dput(sb->s_root);
846                 sb->s_root = NULL;
847         } else {
848                 VN_RELE(rootvp);
849         }
850
851 fail_unmount:
852         xfs_unmount(mp, 0, NULL);
853
854 fail_vfsop:
855         kmem_free(args, sizeof(*args));
856         return -error;
857 }
858
859 STATIC int
860 xfs_fs_get_sb(
861         struct file_system_type *fs_type,
862         int                     flags,
863         const char              *dev_name,
864         void                    *data,
865         struct vfsmount         *mnt)
866 {
867         return get_sb_bdev(fs_type, flags, dev_name, data, xfs_fs_fill_super,
868                            mnt);
869 }
870
871 static struct super_operations xfs_super_operations = {
872         .alloc_inode            = xfs_fs_alloc_inode,
873         .destroy_inode          = xfs_fs_destroy_inode,
874         .write_inode            = xfs_fs_write_inode,
875         .clear_inode            = xfs_fs_clear_inode,
876         .put_super              = xfs_fs_put_super,
877         .write_super            = xfs_fs_write_super,
878         .sync_fs                = xfs_fs_sync_super,
879         .write_super_lockfs     = xfs_fs_lockfs,
880         .statfs                 = xfs_fs_statfs,
881         .remount_fs             = xfs_fs_remount,
882         .show_options           = xfs_fs_show_options,
883 };
884
885 static struct quotactl_ops xfs_quotactl_operations = {
886         .quota_sync             = xfs_fs_quotasync,
887         .get_xstate             = xfs_fs_getxstate,
888         .set_xstate             = xfs_fs_setxstate,
889         .get_xquota             = xfs_fs_getxquota,
890         .set_xquota             = xfs_fs_setxquota,
891 };
892
893 static struct file_system_type xfs_fs_type = {
894         .owner                  = THIS_MODULE,
895         .name                   = "xfs",
896         .get_sb                 = xfs_fs_get_sb,
897         .kill_sb                = kill_block_super,
898         .fs_flags               = FS_REQUIRES_DEV,
899 };
900
901
902 STATIC int __init
903 init_xfs_fs( void )
904 {
905         int                     error;
906         static char             message[] __initdata = KERN_INFO \
907                 XFS_VERSION_STRING " with " XFS_BUILD_OPTIONS " enabled\n";
908
909         printk(message);
910
911         ktrace_init(64);
912
913         error = xfs_init_zones();
914         if (error < 0)
915                 goto undo_zones;
916
917         error = xfs_buf_init();
918         if (error < 0)
919                 goto undo_buffers;
920
921         vn_init();
922         xfs_init();
923         uuid_init();
924         vfs_initquota();
925
926         error = register_filesystem(&xfs_fs_type);
927         if (error)
928                 goto undo_register;
929         return 0;
930
931 undo_register:
932         xfs_buf_terminate();
933
934 undo_buffers:
935         xfs_destroy_zones();
936
937 undo_zones:
938         return error;
939 }
940
941 STATIC void __exit
942 exit_xfs_fs( void )
943 {
944         vfs_exitquota();
945         unregister_filesystem(&xfs_fs_type);
946         xfs_cleanup();
947         xfs_buf_terminate();
948         xfs_destroy_zones();
949         ktrace_uninit();
950 }
951
952 module_init(init_xfs_fs);
953 module_exit(exit_xfs_fs);
954
955 MODULE_AUTHOR("Silicon Graphics, Inc.");
956 MODULE_DESCRIPTION(XFS_VERSION_STRING " with " XFS_BUILD_OPTIONS " enabled");
957 MODULE_LICENSE("GPL");